SBERT（Sentence-BERT）技术详解

基本流程#

1. 文本经过 tokenizer 切分为 token。
2. 输入 Transformer 编码器得到隐藏状态。
3. 使用 pooling 操作聚合 token 表示。
4. 输出固定维度的句向量。
5. 使用余弦相似度等方法比较语义距离。

应用场景#

SBERT 常用于语义搜索、文本聚类、相似问匹配、推荐系统和知识库召回。

在 RAG 系统中，SBERT 或同类 embedding 模型可以作为文本向量化组件，影响知识召回的相关性。

原文#

本文根据我的 CSDN 文章整理，原文链接：SBERT（Sentence-BERT）技术详解。