Feb 10, 2025
突破性:借鏡DeepSeek-R1訓練框架!Kneron AI實現輕量級大語言模型

在人工智慧的快速發展浪潮中,Kneron 始終緊跟最前沿的技術,並不斷優化自身的 AI 方案,以更強大的能力和更高的性價比賦能各行各業。
如今,Kneron 取得了一個令人興奮的突破-借助 DeepSeek-R1 論文中提到的前沿訓練技巧,Kneron 成功讓自研的 LLM 模型掌握了“思維鏈推理(Chain-of-Thought Reasoning)”和“自我反思(Reflection)”的能力,並已部署在 KNEO300 和 KNEO330 離線式GPT服務器,為企業提供智慧、倍加精準的 AI 解決方案,Kneron智慧決策系統已落地醫療、金融等多個場景。
這意味著,Kneron 的 AI 不再僅僅是回答問題或執行任務,而是能夠“思考”和“推理”,讓 AI 具備更強的邏輯推導能力,從而更好的理解複雜問題,給出更可靠、更專業的答案。Kneron 已經在醫療、金融與企業客服等多個行業場景中成功應用了這一創新技術,讓客戶實現更高效的 AI 賦能。
什麼是“思維鏈推理”和“自我反思”?
在傳統的 AI 對話系統中,模型往往直接給出答案,但很多時候,這些答案缺乏邏輯推導,容易出現前後矛盾或不夠嚴謹的情況。而“思維鏈推理” 讓 AI 學會像人類一樣,逐步拆解問題,形成清晰的推理步驟,避免“拍腦袋”式的回答。更重要的是,Kneron 的 AI 還具備了“自我反思(Reflection)”能力-在回答複雜問題時,它可以回顧自己的推理過程,檢查是否有邏輯錯誤,並在發現問題後主動調整答案。
這種能力在數學計算、金融分析、醫療診斷等領域尤其重要,因為這些場景需要 AI 不僅提供答案,還要保證答案的正確性和推理過程的嚴謹性。
圖1: 原模型對推理性問題回答並不理想

圖二:經訓練提升後, KneronLLM-R1 可以有一個推理思考的過程,可以通過思考輸出更正確的答案

突破創新:Kneron 如何做到的?
這次突破的核心在於 Kneron 借鏡了 DeepSeek-R1 論文中提出的強化學習(Reinforcement Learning, RL)和蒸餾(Distillation)等技術,加以融合,使Kneron AI 在訓練過程中逐步學會推理和反思。其關鍵步驟包括:1.高品質資料整理與冷啟動訓練
參考 DeepSeek-R1 的方法,Kneron 通過構建高品質的思維鏈(Chain-of-Thought, CoT)資料,精心篩選多輪推理示例,進行冷啟動訓練。這一階段提高了模型的可讀性和穩定性,使 AI 具備基本推理能力。
2.拒絕取樣 + 蒸餾
Kneron 採用拒絕取樣(Rejection Sampling),篩選出最優推理路徑,並結合知識蒸餾(Knowledge Distillation),將Deepseek-r1及o1等大模型的推理能力遷移到輕量級模型,使 Kneron AI 既具備強大的推理能力,又能在 KNEO300 和 KNEO330 上高效運行。
3.強化學習優化推理能力
訓練後期,Kneron 採用類似於 DeepSeek-R1 的強化學習策略,在訓練過程中讓 AI 通過自對比和獎勵機制學習最佳推理路徑。模型會生成多個不同的推理鏈,並根據準確性和邏輯一致性進行優化。
4.語言一致性與長文本優化
由於 AI 需要適應不同場景,Kneron 還借鑒 DeepSeek-R1 在語言優化方面的方法,引入語言一致性獎勵,確保模型在複雜推理過程中保持邏輯清晰,避免回答混亂或前後矛盾。
最終,Kneron 成功將這一增強版 AI 部署在KNEO300 和 KNEO330 離線式GPT服務器,上,讓更多企業和開發者可以直接使用具備推理能力的 AI,為他們的業務賦能。
AI賦能,如何助力行業升級?
這項技術的突破,正在幫助多個行業實現 AI 賦能,Kneron 已經在以下場景中實現落地應用:1. 醫療問卷 AI 助手
在醫療行業,醫生和醫院需要收集大量的患者資訊,進行健康評估。Kneron 的 AI 助手可在問卷填寫過程中進行推理,根據患者的回答動態調整問題,並分析可能的健康風險,提高診斷效率。
2. 金融衍生品定價 AI
金融衍生品定價涉及複雜數學計算和市場分析。Kneron AI 結合“思維鏈推理”技術,精準解析結構與條款,融合金融數學模型,智慧推導定價策略,為金融機構提供高效、精準的投資優化與風險管控方案。
3. 金融資料分析助手
金融行業的資料繁多且複雜,傳統的 AI 只能提供簡單的報表分析,而 Kneron 的 AI 能夠基於資料推理找出資料中的異常,説明財務人員和分析師做出更高維度的分析。

4. 企業資料智慧客服
許多企業客服需要處理大量的內部文檔和客戶問題,Kneron AI 可自動讀取、理解企業文檔,並提供準確的回答,降低企業客服成本,同時提升客戶體驗。
5. 會議記要 AI 助手
Kneron AI 可幫助企業自動生成高品質的會議記要,不僅記錄內容,還能分析會議重點,條列核心觀點,幫助企業提升會議效率。
為什麼選擇 Kneron?
這次技術升級,充分展現了 Kneron 在 AI 領域的創新能力和技術實力。Kneron 不僅能緊跟前沿技術趨勢,還能將這些技術快速落地,為客戶提供最具性價比的軟硬一體 AI 解決方案。Kneron AI 的核心優勢:
✅軟硬一體,性能更優:AI 直接運行在 KNEO300 和 KNEO330 上,速度更快,成本更低,無需依賴雲端計算,實現軟硬體深度協同優化,顯著優化部署成本與提高隱私安全指標。✅推理更強,結果更精準:認知推理能力突破,具備“思維鏈推理”和“自我反思”能力,在自然語言處理、複雜決策支援等場景提供更具邏輯性答案。
✅應用靈活,行業適配廣:已落地醫療、金融、企業客服等多個場景,助力各行業智慧升級。
在 AI 時代,擁有強大的推理能力意味著 AI 不僅能“回答問題”,還能“思考問題”。Kneron 的這一突破,為行業提供了一種全新的 AI 解決方案,幫助企業更高效地利用 AI,創造更大的價值。