英國政府希望通過AI來促進其經濟和工業的發展，並在這一過程中，它正在對其一年前成立的機構進行重大轉變以實現一個完全不同的目的。今天，科學、工業和技術部宣布將AI Safety Institute更名為「AI Security Institute」（首字母相同：同一個URL）。憑藉這一變化，該機構將從主要探索存在風險和偏見等領域，轉為專注於網絡安全，特別是「加強防範AI對國家安全和犯罪帶來的風險」。
與此同時，政府還宣布與Anthropic建立了新的合作夥伴關係。雖然沒有公布具體的合作服務，但備忘錄表明雙方將「探索」在公共服務中使用Anthropic的AI助手Claude；Anthropic將致力於在科學研究和經濟建模方面的貢獻。在AI Security Institute，它將提供工具來評估AI在識別安全風險方面的能力。
Anthropic聯合創始人兼首席執行官達里奧·阿莫迪在一份聲明中表示：“AI有潛力改變政府為其公民服務的方式。”“我們期待探索Anthropic的AI助手Claude如何幫助英國政府機構提升公共服務水平，目標是發現使重要信息和服務更有效和更易於英國居民訪問的新方法。”
Anthropic是今天宣布的唯一一家公司-與慕尼黑和巴黎的AI活動周合作-但並非與政府合作的唯一公司。今年1月推出的一系列新工具都由OpenAI提供動力。（當時，技術部部長彼得·凱爾表示，政府計劃與各種基本AI公司合作，這正是Anthropic交易所證明的。）
政府將AI Safety Institute進行轉變-該機構剛剛在一年多前隆重推出-改為AI Security看來並不奇怪。
當新上任的工黨政府在一月份宣布其AI密集型“變革計劃”時，顯著的是在文件中完全沒有出現“安全”、“傷害”、“存亡”和“威脅”等詞語。
這不是一個疏忽。政府的計劃是通過使用技術，特別是AI來推動對更現代化經濟的投資。它希望與大型科技公司更緊密地合作，並且希望建立自己的本土大型科技公司。
為了這個目標，它一直在宣傳的主要信息是發展、AI和更多發展。公務員將擁有自己的AI助手“亨弗里”，並且被鼓勵分享數據並在其他領域使用AI以加快他們的工作速度。消費者將獲得用於其政府文件和聊天機器人的數字錢包。
那麼AI安全問題已得到解決嗎？不完全，但信息似乎表明，它們不能以進展作為代價。
政府聲稱，盡管更名，但曲調將保持不變。
“我今天宣布的變化代表了我們如何應對負責任的AI發展的下一步?-幫助我們釋放AI並作為我們變革計劃的一部分促進經濟增長，”凱爾在一份聲明中說。 “AI Security Institute的工作不會改變，但這一更新的焦點將確保我們的公民-以及我們的盟友的公民-不受那些企圖利用AI對我們的機構、民主價值觀和生活方式進行對抗的人士的傷害。”
“該機構從一開始就專注於安全，我們已經建立了一支科學家團隊專注於評估對公眾構成嚴重風險，”仍然是該機構主席伊恩·霍加斯說。 “我們的新犯罪濫用團隊和與國家安全社區深入的合作標誌著對應對這些風險的下一步。”
在更廣泛的范圍內，優先事項顯然已經改變了對“AI安全”的重要性。美國AI Safety Institute目前考慮的最大風險是它將被拆除。美國副總統J·D·范斯本週早些時候在巴黎的演講中已經透露了這一點。
TechCrunch有一份關於AI的新聞稿！在此註冊以每週三收到它。
