Anthropic 放寬 AI 安全承諾,引發與 OpenAI 競爭新格局
2月25日消息,Anthropic近期調整了其人工智能安全政策,將原先禁止在安全措施未完全到位前訓練高級人工智能系統的承諾刪除。這一改變使Anthropic在與OpenAI、谷歌和xAI的競爭中獲得更大彈性,同時也引發業界對人工智能快速發展與安全保障平衡的討論。
Anthropic首席科學官 Jared Kaplan 表示,停止訓練並不能真正解決安全問題,而在競爭對手快速推進的情況下,單方面暫停開發並不明智。該公司強調將通過發布前沿安全路線圖和定期風險報告來提高透明度,並在發現重大災難風險時延遲開發。