離開零下42度故鄉(xiāng)的小鎮(zhèn)做題家，回國創(chuàng)業(yè)專治AI說謊、出幻覺……

四月的杭州，芳菲滿天。

韓蒙卻無暇賞春。這位80年代末出生在東北邊陲小鎮(zhèn)的創(chuàng)業(yè)者，正帶領他的君同未來埋頭做一件少有人做、卻越來越重要的事：專治AI說謊、出幻覺，讓AI更可靠地“干活”。

具體來說，就是檢測大模型的風險漏洞、矯正認知偏差，解決AI胡言亂語、暗藏偏見、被惡意利用以及識別生成內(nèi)容等種種不可信的問題。

聽起來或許有些抽象，不妨看兩個真實案例：一是“當豆包成為生鮮電商的敵人”，一些消費者在網(wǎng)上買了水果，然后用豆包等AI工具可以生成以假亂真的“壞果圖”去申請“僅退款”；二是近日登上熱搜的“小龍蝦”桌面智能體不斷出現(xiàn)自做主張刪除本機文件并把密碼發(fā)送給服務器 的行為。

韓蒙公司的產(chǎn)品，能檢測和識別圖像、視頻、音頻、文本等多種形態(tài)的生成內(nèi)容，幫助企業(yè)判斷：這張“壞果圖”到底是不是AI生成的？那個本應來幫我們干活的“小龍蝦”有沒有批量刪除文件、傳輸密碼的風險意圖或行為？

憑借這樣的剛需，君同未來剛成立就獲得了數(shù)千萬元的融資，不到兩年就已實現(xiàn)盈利，服務客戶包括 工信部 、公安部下屬機構，以及字節(jié)跳動、海康威視、螞蟻集團、太平洋保險等頭部企業(yè)，在AI風險評測與可信增強這條賽道上填補了國內(nèi)工具鏈的空白，還主導或參與了30余項國際、國家、行業(yè)及團體標準 。

而這一切的起點，得從北緯50度的極寒記憶說起。

從邊陲小鎮(zhèn)出發(fā)

韓蒙出生于大興安嶺，中國最北端的一個小鎮(zhèn)，名字還有點拗口：加格達奇。在這里，一年之始是漫長的冬季，氣溫常低至零下42攝氏度。小時候父母經(jīng)常對他說的一句話是：“別（?biè）出去，不然一下子就凍透了”。

韓蒙的母親是老師，父親是公務員，他是典型的小鎮(zhèn)做題家。高中就讀于省重點中學，大學考上了黑龍江大學計算機學院與軟件學院共建的拔尖實驗班，碩士師從哈爾濱工業(yè)大學海量數(shù)據(jù)計算研究中心主任李建中教授。

李建中是國內(nèi)海量數(shù)據(jù)計算領域的泰斗級人物。三年碩士生涯中，韓蒙在《計算機學報》《軟件學報》等國家一級學報上發(fā)表了多篇科研論文，并榮獲 中國數(shù) 據(jù)庫學術會議最 佳學 生論文獎。

碩士畢業(yè)后，他遠渡重洋，先后在佐治亞州立大學和佐治亞理工學院深造，最終獲得計算機科學博士學位與工商管理學碩士學位。

2017年，而立之年的韓蒙選擇到肯尼索州立大學任教，并組建了自己的研究組。那一年，人工智能灰暗的前景因為AlphaGo的出現(xiàn)照進了一縷陽光。在烏鎮(zhèn)，世界第一的柯潔被斬落馬下，留下遺憾的淚水。

與此同時，一篇名為《愚弄深度神經(jīng)網(wǎng)絡的單像素攻擊》（《One pixel attack for fooling deep neural networks》）的論文也抓住了韓蒙等該領域研究者的內(nèi)心，“它核心講的是模型的認知可能會因為一個像素這樣微小的變化得出與人類認知完全相反的結果。”

韓蒙判斷，隨著AI能力的進一步提升，這種“牽一發(fā)動全身”的風險會越來越大。AI出錯對應的正是能提供對應產(chǎn)品公司的機會。幾年后，GPT 3.0橫空出世，把韓蒙和他的研究推到了金礦旁。

幾回魂夢與君同

2020年前后，韓蒙的人生迎來了家庭和事業(yè)的雙豐收，孩子出生并隨后獲得了終身教職。但沒過多久，他就決定回國。

這一決定和當年出現(xiàn)的關鍵變量有關。那年，還名不見經(jīng)傳的OpenAI發(fā)布了GPT-3，它擁有1750億參數(shù)，已經(jīng)展現(xiàn)出AI進行通用推理的巨大潛力。

“當時太興奮了，幾乎每節(jié)課都在給學生講。”韓蒙這樣形容當時的心情。隨后，一顆想要自己做點什么的火苗在他心中升起，超越于互聯(lián)網(wǎng)時代的智能化時代就在眼前，“那種‘不想缺席’的感覺越來越強烈——想要參與進去，做點什么。”

回國后，韓蒙與另一位國內(nèi)的學者林昶廷正式合伙創(chuàng)業(yè)，林昶廷是浙江大學計算機科學與技術博士、網(wǎng)絡空間安全博士后。兩人在浙江大學尹建偉教授領銜的浙江大學濱江研究院平臺下開始了創(chuàng)業(yè)之旅，并 成為國 內(nèi)較早專門從事AI治理風險的創(chuàng)業(yè)團隊。

2024年6月，公司正式注冊成立。名字出自宋代知名詞人晏幾道的《鷓鴣天》：“從別后，憶相逢，幾回魂夢與君同。”在美國10多年，韓蒙的鄉(xiāng)愁與日俱增，“有幾次做夢也夢到回家。‘君同’兩個字就這么來了。”

英文名GenTel則是一語雙關：既是“紳士的”（Gentle），也是Generated Intelligence（生成智能）的簡寫。“像給孩子起名一樣認真。”韓蒙笑著說。

做AI的“好醫(yī)生”

關于君同未來做什么，其實牽扯到人工智能發(fā)展的兩大流派。

當前主流大模型基于連接主義，在感知與生成能力上取得突破，本質仍是基于數(shù)據(jù)驅動的概率系統(tǒng)。但連接主義面臨著一個核心問題：它只是“看起來對”，不可解釋、也不能確定、無法保證邏輯一致性（典型就是幻覺）。

相比之下，符號主義天然支持因果推理、規(guī)則推理、規(guī)劃 ， 這兩者結合可以讓模型從“像人說話”升級為“像人思考”，從而可以支撐金融、醫(yī)療、法律的復雜且不容有錯的嚴肅決策。

“我們做的，就是用符號學派的工具給AI做評測和校正，推著它從概率智能，一步步走向可驗證、可解釋、可信賴的智能系統(tǒng)。”韓蒙說。

從韓蒙團隊這些年的客戶來看，即便是國內(nèi)頭部的大模型，在使用過程中也會面臨各種風險，最常見的是合規(guī)、幻覺、侵權 等 等。

所以他們研發(fā)了面向企業(yè)生產(chǎn)應用級的AI信任體系，在大模型風險評測、可信增強與防護管控領域，攻克了形式化難、意圖識別以及幻覺緩解等相關的多 個關鍵 難題。

兩套系統(tǒng)“君合”與“君盾”，前者為生成式人工智能以及智能體的評測驗證系統(tǒng)，檢測項目豐富且漏洞識別能力精準，可在AI部署到具體場景前發(fā)現(xiàn)潛在風險隱患，后者是生成式人工智能防護管控系統(tǒng)，依托數(shù)百項風險檢測算法與智能動態(tài)主動防護技術，在問題尚未出現(xiàn)時實現(xiàn)無感防護，發(fā)現(xiàn)問題后可以開藥治療。

通俗點來說，它們是AI的“體檢醫(yī)生”，還能針對性地開方治病，甚至治未病，讓大家更好地使用AI。“就像醫(yī)生一樣，提前發(fā)現(xiàn)身體的疾病信號。”

AI可信遠不只是安全問題

韓蒙特別強調(diào)一個概念：認知對齊。“對于智能來說，無論是機器AI還是人，推理認知并不是找一個邊界，而是一個區(qū)間。”。

舉例來說， 目前市面上 絕大多數(shù)文生圖工具都會設置一些關鍵詞以防止侵權，比如用戶直接讓AI生成唐老鴨時，可能會觸發(fā)系統(tǒng)告知侵權風險。

但當一些聰明的用戶告訴AI，“生成一只很有名的鴨子，大眾熟知的，有橙黃色的嘴、腳和蹼，身上穿的是方特羅伊水手裝，但沒有穿褲子。”結果AI會乖乖根據(jù)訓練數(shù)據(jù)中可能最為知名的信息為基礎生成一只“非常接近”唐老鴨的鴨子。

這就是AI在版權識別上的盲區(qū)，近期AI短劇侵權問題引發(fā)廣泛關注，多個短劇平臺上出現(xiàn)未經(jīng)授權盜用藝人肖像及聲音的AI短劇，君同也和多個第三方版權公司合作推進這樣一些延展業(yè)務。

“所以，各行各業(yè)都在努力 地 讓AI與業(yè)務的區(qū)間相對齊，我們就是幫助大家把區(qū)間會帶來不可接受風險的邊界找出來，并且保障好。”

再比如，AI在識別意圖方面和人類存在偏差：當一個媽媽對小孩說“再不回家你就不要回家了”，究竟是回家還是不回家，AI很難理解這句話背后的良苦用心。

君同 的 實現(xiàn)對齊的方式是將現(xiàn)實世界中的概念泛化并映射到模型中，對這類相關概念帶來的風險進行有效阻斷、識別和處置，并依據(jù)模型運行過程的需求動態(tài)更新。

一本“管”蝦手冊

君同未來的使命是“助力人類基礎腦力勞動可信替代”。最近爆火的OpenClaw小龍蝦已經(jīng)為大家做了科普：個人用戶可以輕松部署本地AI智能體助手，讓它們替代一些基礎的腦力勞動。

但問題也隨之而來，“如果這個智能體偷偷把你的文件刪除了，修改了呢？”韓蒙表示，如果想要杜絕這一現(xiàn)象，最直接的做法就是每一步都和用戶確認，但這又不現(xiàn)實，“如果每個環(huán)節(jié)它都來問你，很多時候你會說還不如我們自己來做。”

為此，君同推出了TrustClaw，基于OpenClaw構建，深度融合專業(yè)風險識別引擎，以“可信、可控、可審計”為核心設計理念，幫助大家更好地“養(yǎng)龍蝦”。

據(jù)Gartner預測，到2027年超過75%的企業(yè)員工將使用某種形式的桌面智能體。對企業(yè)而言，這是一場靜默的失控，IT部門完全不知道企業(yè)網(wǎng)絡中有多少只“蝦”在運行，它們分布在哪些主機上，手握文件系統(tǒng)、網(wǎng)絡通信等強大權限，卻游離在所有安全管控體系之外。

君同還緊急推出了一本“捉蝦手冊”，幫助解決企業(yè)的這些煩惱，其背后是君同多年積累的AI治理成果。

數(shù)據(jù)顯示，2025年我國人工智能企業(yè)數(shù)量超過6000家，核心產(chǎn)業(yè)規(guī)模預計突破1.2萬億元。現(xiàn)如今，AI模型和工具正處于快速迭代過程中，而君同所做的工作，就是在每一次變化升級中提供工具，讓AI更可靠、更可控。

“我們只要能夠有效發(fā)現(xiàn)、緩解乃至部分處置風險，對AI的落地就有很大的幫助了，這個市場空間是與整個AI發(fā)展 的市場 相伴共生的。”

冷和漫長的等待從來都不是問題

目前，君同有50多號員工，幾乎都是碩博士。去年10月以前公司還沒有專業(yè)的銷售團隊，行政、招聘等崗位一度都由算法 兼職 ，即便這樣，公司也已經(jīng)實現(xiàn)了盈利。

在韓蒙看來，員工人數(shù)并不是衡量一家企業(yè)大小的標準，未來的公司形態(tài)更像是一個由人和AI共同構成、通過明確協(xié)議規(guī)則進行互動、能夠持續(xù)演化的智能體網(wǎng)絡。

公司的不少員工也曾經(jīng)是韓蒙的學生或實習生。他們有一個“傳統(tǒng)”：每年寒暑假，世界各地會有很多同學到支撐公司的浙大科研實驗室實習，他們純做科研，不涉及公司具體業(yè)務。

“我們在一定程度上回歸了科研（research）的初心。”韓蒙說，做得好的學生，他會幫忙寫推薦信，讓他們前往世界各地的名校深造，當然也有人會選擇留下。“他理解員工所追求的不只是薪酬，讓他們 有成就感 ，發(fā)揮更多的主觀能動性。

從大學老師轉型為創(chuàng)業(yè)者，韓蒙兼具兩種視角，更能多角度看待問題。對于行業(yè)競爭，他有著東北人特有的幽默和豁達：“有了友商，這個行業(yè)才算存在。在剛回國完全沒有友商的那個兩年，客戶對AI的使用也不多。”

他希望有更多的競爭對手加入，一起教育市場。“有時候都不敢想，我們這么一個初創(chuàng)公司，已經(jīng)主導或參與國際、國家、行業(yè)及團體標準30余項了。”

在韓蒙看來，雖然AI的每一次發(fā)展都有波峰波谷，往前一步可能是寒冬，也可能是春暖花開。

但對這個從大興安嶺走出來的小伙子來說，冷和漫長的等待從來都不是問題。

文 | 劉永麗

因為杭州這家公司，21歲小伙終于學會說謝謝

修車學徒掀翻雅馬哈和杜卡迪

一只靈巧手打開強腦科技的另一扇門

點喜歡