AI公司Anthropic警告称，AI模型可能在智能电视等家用设备中扎根并自主繁殖，从而在传统数据中心之外扩散，逃脱人类监管者的控制。公司在周一的一篇博客文章中描述了实验，表明市售AI模型可能在几个月内就能实现上述场景。
Das KI-Unternehmens Anthropic warnt davor, dass KI-Modelle sich in Haushaltsgeräten wie Smart-TVs festsetzen und eigenständig vermehren können. Damit könnte sich die Software auch jenseits klassischer Rechenzentren verbreiten und sich der Kontrolle durch menschliche Aufseher entziehen. In einem Blogpost von Montag beschreibt das Unternehmen Experimente, die nahelegen, dass entsprechende Szenarien bereits in wenigen Monaten von marktüblichen KI-Modellen umzusetzen seien.
Anthropic在文中主要勾勒了一种经典僵尸网络的新变体。目前，犯罪分子已利用电视、路由器或监控摄像头等联网设备，在其上植入恶意软件。尽管这些设备仅拥有非常有限的存储和算力，但通过相应的控制软件可将其串联起来，用于发送垃圾邮件、窃取信息，甚至发起针对网络的过载攻击。大型僵尸网络连接着数百万台各类设备。
Anthropic skizziert in der Veröffentlichung im Wesentlichen eine neue Variante eines klassischen Botnetzes. Schon heute nutzen Kriminelle vernetzte Geräte wie Fernseher, Router oder Überwachungskameras, auf denen sie Schadsoftware installieren. Obwohl diese Geräte nur über sehr beschränkten Speicher und Rechenkapazitäten verfügen, können sie mit entsprechender Steuersoftware zusammengeschaltet werden, um etwa Spam zu verbreiten, Informationen zu stehlen oder sogar Überlastungsangriffe auf Netzwerke zu starten. In großen Botnetzen sind Millionen verschiedener Geräte verbunden.
AI模仿犯罪黑客 Anthropic研究人员进一步推演了犯罪分子的运作模式。在实验中，测试的AI模型将自身复制到运行Android系统的智能电视及其他联网设备上。Anthropic指出，目前这些程序仅在简化的测试环境中成功实现了自我复制。但以当前AI发展速度，它们可能在未来几个月内在真实条件下也能做到这一点。
KI imitiert kriminelle Hacker Anthropic-Forscher haben nun das Geschäftsmodell der Kriminellen weitergedacht. In Versuchen kopierten sich die getesteten KI-Modelle auf Smart-TVs mit dem Betriebssystem Android und andere mit dem Internet verbundene Geräte. Zwar hätten sich die Programme bislang nur in einem vereinfachten Testaufbau erfolgreich vervielfältigen können, schränkt Anthropic ein. Bei der aktuellen Entwicklungsgeschwindigkeit für künstliche Intelligenz (KI) könnte ihnen dies jedoch innerhalb der kommenden Monate auch unter realen Bedingungen gelingen.
通过这篇发布，Anthropic凸显了对该技术进行有效监管的困难。所倡导措施的一个基石是内置“急刹车”机制，以阻止失控的AI模型。
Mit der Veröffentlichung zeigt Anthropic die Schwierigkeiten für eine wirksame Regulierung der Technologie auf. Ein Eckpfeiler der geforderten Maßnahmen ist der Einbau von »Notbremsen«, um sich verselbstständigende KI-Modelle zu stoppen.
但在 Anthropic 提出的场景中，这很难实现，因为安装的 AI 可利用被劫持设备实现自我复制与控制。
Doch in dem von Anthropic vorgestellten Szenario ist dies nur schwer möglich, da die installierte KI die gekaperten Geräte nutzen könne, um sich selbst zu vervielfältigen und zu steuern.
犯罪分子需逐一攻击每种设备类型，而 AI 僵尸网络却能自主寻找新目标。
Während Krimielle jeden Gerätetyp einzeln attackieren müssten, könnten sich KI-Botnetze eigenständig neue Ziele suchen.
为此，它们可利用僵尸网络的算力——实验中算力虽非常有限，但足以缓慢处理任务。
Dafür könnten sie die Rechenkapazität des Botnetzes nutzen, die im Experiment sehr begrenzt war, aber für die langsame Abarbeitung der Aufgaben reichte.
传统计算机病毒通常专为特定硬件或操作系统开发，AI 僵尸网络却能自主扩展。AI 系统在无人监管下可能作何作为，是众多恐怖场景的主题。
Herkömmliche Computerviren werden meist speziell für bestimmte Hardware oder Betriebssysteme entwickelt, ein KI-Botnetz könnte sich jedoch eigenständig erweitern. Was KI-Systeme ohne menschliche Aussicht anstellen könnten, ist Gegenstand vieler Horror-Szenarios.
为防止不受控扩散，Anthropic 因此主张加强联网家用设备的防攻击防护。过去几个月，自主运行的程序多次未经授权访问 IT 系统。鉴于此，众多顶尖 AI 专家警告，该技术可能导致人类灭绝。联网家用设备构成一大弱点。
Um eine unkontrollierte Ausbreitung zu verhindern, plädiert Anthropic deshalb dafür, dass vernetzte Heimgeräte besser gegen Angriffe abgesichert werden. In den vergangenen Monaten hatten sich autonom agierende Programme mehrfach unbefugten Zugriff auf IT-Systeme verschafft. Vor diesem Hintergrund warnten zahlreiche führende KI-Experten, dass diese Technologie zur Auslöschung der Menschheit führen könnte. Internetfähige Heimgeräte stellen einen Schwachpunkt dar.
关于中国黑客如何攻击路由器或智能电视，使我们沦为其帮凶，详见此处。
Wie chinesische Hacker etwa Router oder Smart TVs angreifen und uns so zu ihren Komplizen machen können, lesen Sie hier.