Anthropic: AI е използван за оръжия, кибершпионаж и опасни биологични изследвания
Американската компания за изкуствен интелект Anthropic съобщи, че е предотвратила множество опити за злоупотреба с нейния модел Claude, включително за потенциална разработка на биологични оръжия, кибершпионаж, създаване на конвенционални оръжия и операции за влияние. Това се посочва в новия доклад на компанията “Detecting and Countering Misuse of AI: September 2026”, който обхваща случаи, установени между декември 2025 г. и август 2026 г.
Пет случая, свързани с биологични изследвания
Според доклада Anthropic е установила пет случая, при които учени са се опитвали да използват Claude в чувствителни биологични изследвания, като са заобикаляли защитните механизми на системата.
Един от случаите е бил свързан с опит за използване на AI при подготовката на документи за финансиране на изследвания тип gain-of-function върху вируса чикунгуня с цел потенциално увеличаване на опасността му. Anthropic е блокирала съответните опити, съобщава Асошиейтед прес.
Сред петте случая има и изследване, свързано с военен научен институт и вируса чикунгуня, пиши “Гардиън”. Компанията не назовава конкретните институции и държави, тъй като според нея в някои от случаите намеренията на потребителите не могат да бъдат категорично определени като злонамерени.
Anthropic подчертава именно този проблем – една и съща научна информация може да бъде използвана както за разработване на лекарства и ваксини, така и за потенциално опасни цели.
AI в руска кибершпионска операция
Друг от случаите, описани в доклада, е свързан с операция, която Anthropic свързва с руската хакерска група Midnight Blizzard.
По данни на “Ройтерс” кампанията е била насочена срещу украински правителствени, военни и дипломатически структури. AI е бил използван на почти всички етапи на операцията – от фишинг атаки и разузнаване до разработването и адаптирането на зловреден софтуер. В един от случаите кодът е бил автоматично променен след засичане, за да се избегнат защитните системи. Американското правителство вече е свързвало Midnight Blizzard с руската служба за външно разузнаване (SVR), допълва “Ройтерс”.
Докладът показва и по-широка промяна в начина, по който AI се използва при кибератаки. Indian Express отбелязва, че все по-често нападателите използват автономни AI агенти, които могат самостоятелно да извършват разузнаване, да крадат данни и да експлоатират уязвимости, като човешкият контрол се свежда до надзор.
Опити за копиране на Claude
Anthropic твърди също, че китайски компании са се опитвали да извлекат и възпроизведат възможностите на Claude чрез т.нар. distillation – техника, при която резултатите на един модел се използват за обучение или подобряване на друг.
Според Reuters седем китайски AI лаборатории са били свързани с подобни действия. Сред посочените компании са Alibaba, Moonshot и DeepSeek. При един от случаите Anthropic твърди, че Alibaba е генерирала над 151 милиона взаимодействия с Claude в рамките на операцията.
Тези твърдения са част от оценката на Anthropic и не трябва да се представят като независимо установен факт. Междувременно Китай отхвърля американските обвинения за “злонамерено” копиране на AI технологии като неоснователни.
Използване за оръжия и пропаганда
Anthropic съобщава и за случаи, при които Claude е бил използван за разработване на софтуер, свързан с конвенционални оръжия, както и за разузнавателни и логистични операции. Reuters посочва Китай, Русия и Йемен сред държавите, свързани с описаните случаи.
Компанията е установила и злоупотреби с AI при операции за влияние и наблюдение. Според The Guardian докладът описва опити за използване на моделите за пропагандни кампании и наблюдение на дисиденти, журналисти и други политически противници.
Anthropic съобщава, че е блокирала свързаните с тези операции акаунти и е засилила защитните механизми на моделите.
AI става все по-автономен
Един от основните изводи от доклада е, че заплахата вече не се ограничава до използването на AI като инструмент, който дава инструкции на човек.
Според “Индиан Експрес” все по-сложни многоагентни системи могат да разделят задачите между отделни AI агенти и да изпълняват големи части от кибероперацията самостоятелно. Това позволява на сравнително малки групи да извършват операции, които преди са изисквали значителен брой специалисти.
“Гардиън” отбелязва, че именно тези непосредствени рискове – AI, използван за кибератаки, разработване на опасни патогени и други престъпни дейности – според експерти са по-конкретна заплаха в момента от хипотетичните сценарии за бъдещ свръхинтелект.
Anthropic призовава за по-тясно сътрудничество между технологичните компании, правителствата и специалистите по сигурност, тъй като според компанията злоупотребата с все по-мощни AI системи вече представлява международен проблем.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Ако вярвате в правото си на обективна информация, подкрепете ни.
Вашето дарение от всякакъв размер и по всяко време означава много за нас.
Скъпи читатели,
Днес, повече от всякога, независимата журналистика има нужда от вас.
В мисията си да предоставяме обективни, достоверни и навременни новини разчитаме на вашата подкрепа.
Ако вярвате в правото си на обективна информация, подкрепете ни.
