最近发现一个有趣的东西。

就是我们在使用chatgpt的时候会有一些字符限制，毕竟官方就给了4096，这个还包括了问答的全部字符。

而且只能输入一些文字，这个就很烦，部分ai大佬想了一个办法绕过官方的限制并可以输入图片视频等其他的内容来让chatgpt分析。

LlamaIndex就是一个这样的东西，它将您的Llama（Llama语言模型，即类似于GPT的模型）与外部数据连接起来。

说人话就是提供了一个友好的chatgpt接口给人类使用。

它的原理就是如下图。

大概的意思就是在本地用embedding模型给你要提供的数据做个向量，然后再把我们要搜索的关键词调用openai的模型直接把向量查出来 ，然后我们本地去匹配向量得到结果。 这样就可以减少字符了。

然后我本地拿了一套程序：jumpserver开源代码喂给ai，花了1小时和2美元。

像这样的库其实挺多的，比如https://github.com/mckaywrigley/paul-graham-gpt