Patronus AI 開局神奇,LLM 治理工具開始受到重視

當今,每家公司都在試圖確定他們的大型語言模型是否符合他們認為重要的規則,以及法律或監管要求。如果您在受管制的行業,這種需求會更為迫切。也許這就是為什麼 Patronus AI 在市場上取得了早期成功的原因。

這家幫助客戶確保模型在多個方面符合規定的公司,宣布了一筆 1700 萬美元的 A 轮融資,僅在宣布了 300 萬美元的種子轮融資後 8 個月。

“投資人很興奮的一點是我們是這個領域的明顯領導者,這是一個非常大的市場,而且增長速度非常快,”首席執行官兼共同創始人 Anand Kannappan 告訴 TechCrunch。而且,正是在公司意識到他們需要 LLM 治理工具幫助他們保持合規性時,Patronus 得以早日進入市場。

他們相信這個不斷增長的市場的潛力,這市場才剛剛起步。“自從我們推出以來,我們已經與許多不同類型的投資組合公司、AI 公司和中期公司合作過,因此通過我們的平臺,客戶已經發出數十萬個請求,”他說。

該公司的主要焦點是一個名為 Patronus Evaluators 的功能。“這些基本上是你可以實現的 API 調用,只需一行代碼,你就可以以非常高質量和高度可靠的方式,可伸縮地測量各種維度上的 LLM 和 LLM 系統的性能,” Kannappan 說。

這包括可能性幻覺、版權風險、安全風險,甚至是企業特定能力,如檢測商業敏感信息和品牌語氣和風格,這是企業從監管和聲譽角度關心的事情。

正如我們在種子融資宣布時所寫:

“該公司正處於正確的時間、正確的地點,建立了一個作為測試大型語言模型的安全和分析框架的托管服務,以識別可能有問題的領域,尤其是幻覺的可能性,即模型因缺乏數據而無法正確回答時編造答案。”

公司從去年種子融資時的六名員工增加到了現在的兩倍,並預計今年將再次倍增。

這筆 1700 萬美元的投資由 Notable Capital 領投,並有 Lightspeed Venture Partners、Factorial Capital、Datadog 和行業天使參與。