基础知识

一个将 LLM （语言大模型）快速且简单的集成到 Java 应用程序中的大模型应用框架

链接：

• LangChain4j中文文档)

核心功能

• 集成 LLM 提供商
• 集成嵌入（向量）存储
• 集成嵌入模型
• RAG（检索-增强-生成）

使用场景

• 智能辅助客服
• 知识库
• 处理大量非结构化数据（文件、网页等）并从中提取结构化信息

动手实操

引入依赖

<!-- langchain4j 集成 springboot相关的依赖 -->
<dependency>
    <groupId>dev.langchain4j</groupId>
    <artifactId>langchain4j-open-ai-spring-boot-starter</artifactId>
</dependency>
<dependency>
    <groupId>dev.langchain4j</groupId>
    <artifactId>langchain4j-spring-boot-starter</artifactId>
</dependency>

<!-- OpenAI ，兼容多种模型 -->
<dependency>
    <groupId>dev.langchain4j</groupId>
    <artifactId>langchain4j-open-ai</artifactId>
</dependency>
<dependency>
    <groupId>dev.langchain4j</groupId>
    <artifactId>langchain4j</artifactId>
</dependency>

yml 配置

声明模型信息，即可实现对应模型的自动注入

langchain4j:
  open-ai:
    chat-model:
      model-name: # 模型名称
      api-key: # 模型 key
      base-url: # 模型 url

业务层

• wiringMode = EXPLICIT：用户自己指定相关的bean
• chatModel = "openAiChatModel"：指定 AI 模型为：openAiChatModel（和yml配置对应）

@AiService(wiringMode = EXPLICIT,
        chatModel = "openAiChatModel"
)
public interface OpenAiService {

    String chat(String message);
}

测试

@Slf4j
@SpringBootTest
@RunWith(SpringRunner.class)
class AiTest {

    @Autowired
    private OpenAiService openAiService;

    @Test
    void chat() {
        log.info(openAiService.chat("你好，你是谁啊"));
    }
}

测试结果：

版权所有

版权归属：haipeng-lin

许可证：署名 4.0 国际 (CC-BY-4.0)