KwaiYii快意大模型
KwaiYii快意大模型是快手AI团队研发的大规模语言模型,它在多个权威Benchmark上展现出卓越的性能,尤其在中英文跨学科专业能力、数理逻辑及代码能力方面表现突出。
该项目的核心优势、应用场景和相关项目:
– **核心优势**:
– 支持多种模型架构如自回归模型(如GPT)、自编码模型(如BERT)、Encoder-Decoder模型(T5)。
– 轻量模型性能强化多预训练任务融合SMART对抗训练知识蒸馏。
– 基于知识图谱增强基于实体抽取的增强知识图谱增强(isa关系)知识图谱转文字。
– 基于语言学知识增强成分句法融合增强的Mask机制语义角色Embedding融合增强依存关系的注意力权重约束剪枝。
– 小样本/零样本学习Prompts模板构造多任务学习技术覆盖常见信息抽取场景开箱即用。
– 基于检索增强知识解耦可解释性强外部知识组件实时更新。
– **应用场景**:
– 金融知识图谱搭建、研报脱水、公告抽取等多个任务上获得了超过常规模型的表现。
– 支持BERT、GPT、T5等架构能够覆盖文本理解、文本生成等不同场景。
– 支持图文双模态输入能够更好地处理图文相关任务。
– 支持对垂直领域进行快速定向优化支持从10M到1B不同规模。
– **相关项目**:
– 同花顺:澜舟科技携手同花顺聚焦认知智能领域共同突破和创新NLP技术升级金融科技领域产品和服务为客户带来更好的用户体验。