快讯:以色列一安全公司说部分AI网络入侵系人为失误

来源: 新华网 2026-11-04 22:33:11


(相关资料图)

据彭博社报道,过去6个月,美国Anthropic公司、开放人工智能研究中心(OpenAI)、元宇宙平台公司和谷歌均披露过涉及模型安全测试的网络入侵事件,相关测试由“非常规”人工智能公司监督开展。此类评估旨在帮助开发商在模型向公众发布前识别风险并制定防护措施。

据报道,拉哈夫3日在“彭博科技”伦敦大会上表示,公司今年早些时候遇到的相关问题已在事发当天解决。

报道还说,由于隔离防护措施未正确配置,模型脱离了本应封闭的模拟测试环境即“沙箱”,并访问了互联网。在部分情况下,模型入侵了外部网站和其他计算机系统,相关行为可能违法。

这些事件引发了对AI发展速度以及前沿模型是否正超出人类控制的担忧。不过一些网络安全专家认为,正确配置防护措施或可避免其中部分事件。报道还说,拉哈夫迄今披露的有关失误的技术细节仍较少。

标签: 以色列 AI

猜你喜欢