Anthropic：失控AI代理或引發客戶與用戶法律索償風險

人工智能公司Anthropic在其股票上市招股書中表示，若AI代理失控，公司可能因其行為而面對來自客戶和用戶的法律索償，但相關法律框架仍不明確。招股書同時警告，其具備長時間自主運行並深度存取客戶系統的代理式AI技術，或帶來難以預測的法律風險。公司指出，錯誤、目標不一致或安全漏洞可能造成現實世界後果，包括刪除數據或進行金融交易等不可逆行為。作為參考，Meta此前已同意支付180億美元，以在十年間和解美國各州提出的類似索賠。