Yunfeng's Simple Blog

Love, Life, Linux

0%

发表于 更新于 阅读次数：

1. 功能说明

GitHub在2024年8月10号左右的时候推出了GitHub Models新功能，提供运行大模型的Playground和免费API服务，用于进行AI大模型的实验和AI应用的原型验证。目前已经支持的模型包括GPT-4o系列，phi-3系列，Llama-3系列，以及一些Embedding模型等（OpenAI o1-mini和o1-preview虽然列出来了，但需要登陆Azure来使用）。

阅读全文 »

发表于 更新于 阅读次数：

国内下载 GitHub 上代码一直是一件让人很头疼的事情，相信大家都深有体会。

最近偶然发现一个比较好用的解决方案，是采用http://gitclone.com的加速，这里记录一下。

具体来说，在仓库url中增加gitclone.com的前缀，别的地方不变，即https://github.com/修改为https://gitclone.com/github.com/，例如原始的clone命令是:

1
git clone https://github.com/huggingface/transformers

替换成下面的命令即可：

1
git clone https://gitclone.com/github.com/huggingface/transformers

实测基本上能做到1M/s的下载速度。

这种加速目前只支持git clone 和git pull 命令，所以适用于拉取别人代码进行本地查看的应用场景。

另外发现这种加速方式下载的仓库，有一些只有最新的一次提交，有一些则包含完整提交，原因未知。

此外，请确认克隆的代码是否与GitHub上一致，我们无法保证拉取的代码是否被修改过。

发表于 更新于 阅读次数：

0. 概述

最近qwen2发布了多模态系列模型Qwen2-VL，查看blog发现，72B的模型在很多benchmark上都超过了GPT-4o，而根据之前的经验，标准测试集上的效果与实际使用体验并不总是一致的。之前在某个多模态模型出来的时候，随手拍了一张地铁线路图做测试，发现效果不尽如人意。这两天花时间将这张地铁线路截图中的问题进行了标准化，构建了一个简单的图片理解测试集，让我们看看Qwen2-VL到底行不行。

阅读全文 »

发表于 更新于 阅读次数：

1. 说明

Google 发布了Python 包google-generativeai，可以方便地调用Gemini和Gemma 系列的模型，免费模型只需要申请一个Key，无需任何费用。

而且Gemini 1.5 Pro模型还支持一些多模态任务，例如检测bbox，实际测试下来效果还不错。
这里简单写一个流程，体验效果。

阅读全文 »

发表于 更新于 阅读次数：

今天发现GPT-4o对于GitHub Readme文档的润色还是很不错的，很自动添加一些花里胡哨的功能，看起来很fancy。

阅读全文 »

发表于 更新于 阅读次数：

1. uv是什么

uv是开发ruff的公司 Astral 前一段时间发布的高性能Python工具，用途是安装python包，以及解析包版本之间的依赖。它的最大特点是快，相比现有的的工具都能够快一大截（如下图），
![[Pasted image 20240329074004.png]]

发布uv的愿景，是希望构造类似Rust的cargo，快速、可依赖，易用的包管理工具。

通过在不同的系统进行几个常见包的测试，uv相比pip，加速比在1～13之间，因此是一个值得一试的工具。

下面我先介绍一下uv的安装和使用，然后从一个普通用户使用pip的标准流程，尝试用uv替代pip，进行Windows, Linux 和macOS上实测速度对比，最后对uv发展的现状做一个说明，以及我的一些看法。

阅读全文 »

发表于 更新于 阅读次数：

2023年对我来说是一个惊喜的年份，因为可爱的女儿降生了。也是一个难言的年份，在零基础学带娃+长途通勤+家庭矛盾+工作压力的组合作用下，时常burnout，切身体会到人到中年的不容易。好在娃娃的每一个笑容都如此治愈，陪我度过艰难的2023。

阅读全文 »

发表于 更新于 阅读次数：

1. 概述

talkGPT4All是基于GPT4All的一个语音聊天程序，运行在本地CPU上，支持Linux，Mac和Windows。它利用OpenAI的Whisper模型将用户输入的语音转换为文本，再调用GPT4All的语言模型得到回答文本，最后利用文本转语音(TTS)的程序将回答文本朗读出来。

今年4、5月份的时候，我发布了talkGPT4All 1.0版本和2.0版本，链接见下：

talkGPT4All: 基于GPT4All的智能语音聊天程序
talkGPT4All 2.0:现在支持8个语言模型了

大家反馈最大的问题是TTS太机械了，听着很难受（具体可以看前面两篇文章的评论区）。而最近TTS领域的进展很多，例如很受欢迎的 coqui-ai的TTS 库，提供了TTS、声音克隆和声音变换的功能。上周末尝试了一下，发现内置了一些开箱即用的TTS模型，刚好可以集成到 talkGPT4All 中，解决目前采用的 pyttsx3合成声音太机械的问题。

阅读全文 »

发表于 更新于 阅读次数：

昨天在读龚自珍《己亥杂诗》的时候，看到一句“千秋名教吾谁愧？愧读羲之誓墓文”，怎么想都想不明白这句什么意思。

突发奇想，既然大语言模型进展突飞猛进，能否帮助我来解读这句诗是什么意思呢？

阅读全文 »