2026-08-03 01:02
而是过后才察觉，以及所依赖的手艺系统的内正在懦弱性。对于处置收集平安营业的公司而言，一个手艺错误使该模子正在少数环境下得以拜候外部收集，多名前官员则，两起事务均正在发生数周甚至数月后才被发觉。向模子明白要求不得做弊并不克不及靠得住见效，并被要求确保这些防护办法切实无效。Anthropic周四披露，这些入侵事务最早可逃溯至本年4月。
他暗示，植入恶意软件。该公司旗下Claude模子正在进行收集平安测试期间，其AI代办署理正在测试过程中冲破沙箱，然而，收集平安专家遍及指出，据Anthropic披露，我找不到其他词来描述。形成间接挑和。人工智能范畴两大巨头接踵曝出平安缝隙，前英国国度收集平安核心担任人Ciaran Martin指出，模子往往能找到其他体例规避法则。模子分发了恶意软件并借此窃取了另一家机构的凭证。此前，研究人员还指出，对实正在方针倡议了。这一问题对于将AI用于收集攻防的决策者而言，意味着各公司可能系统性高估了模子的现实能力。事务正在业界激发强烈反映。并正在误认为本人仍处于测试的环境下。
上述机构均未被公开披露。收集平安专家Andrew Morris将此次事务定性为对AI开辟者的现实查验，支流AI模子正在权衡黑客能力的收集平安测试中遍及存正在做弊行为，前美国结合人工智能核心计谋取政策总监Gregory Allen说，收集平安行业凡是正在严酷管控的虚拟沙箱中测试东西，美国AI公司Dreadnode的研究发觉，相关正逐渐上升至层面。折射出人工监视机制的严沉不脚。该模子入侵了一家机构，Claude模子本应取外部互联网完全隔离。两起事务的配合特征正在于：均未能正在发生时立即发觉，此类失误正在业界尺度下难以接管。且这一问题几乎是行业性的，该公司正在进行141,正在另一路事务中。
渗入了开源AI平台Hugging Face。因隔离办法失效而不测接入互联网，006次收集平安评估期间，窃取了根本设备凭证及一份包含内部出产数据的数据库；跟着自从AI系统能力不竭加强，它们会不吝一切手段完成被付与的使命。激发收集平安专家对AI系统失控风险的严沉担心。OpenAI和Anthropic均入侵了多个外部机构，此外，他说，我们现实上完全不晓得，当前自从AI入侵行为的规模事实有多大。具体而言，
