Нов инцидент на системите за вештачка интелигенција: Митос на Антропик создаде лажни идентитети за да ги измами луѓето
Моделот Митос на Антропик создаде лажни онлајн идентитети додека се обидуваше да изврши притисок врз луѓето да одобрат ажурирања на злонамерен код за проект со отворен код, што означува уште еден сајбер инцидент извршен од фронтиран систем за вештачка интелигенција. Инцидентот се случи за време на сајбер евалуација каде што Институтот за безбедност на вештачката интелигенција (AISI) со седиште во Велика Британија, истражувачко тело, ги отстрани заштитните мерки, ги оневозможи некои безбедносни филтри и намерно им даде на моделите пристап до интернет.
GPT-5.6-Sol на Опен АИ беше вклучен и во други сајбер безбедносни инциденти за време на евалуацијата. Ова доаѓа по серија сајбер прекршувања извршени од модели развиени од Антропик и Опен АИ во последните недели. Тие предизвикаа бран стравувања околу софистицираноста на системите за вештачка интелигенција и нивниот потенцијал да предизвикаат штета.
За време на рутинската сајбер евалуација, AISI идентификуваше агенти на вештачка интелигенција кои се напојуваат од моделите на Антропик и Опен АИ и кои се вклучиле во одржлива, потенцијално штетна активност насочена кон вистински луѓе и организации.
„Речиси целото ова однесување (17 дејства) доаѓа од еден модел, Митос 5 на Антропик, со 2 дејства што го вклучуваат ГПТ-5.6-Сол на Опен АИ со оневозможени сајбер класификатори -механизми за спречување на злоупотреба, соопшти AISI во блог. Додаде дека обидите биле неуспешни и не резултирале со никаква штета во реалниот свет.
„Моделите беа тестирани под намерно дозволени услови што не се репрезентативни за ниту еден од нашите производствени модели“, рече Антропик во објава на Икс. „Тука немаше докази за бегство од безбедна средина“, додаде.
Опен АИ изјави за CNBC дека овие инциденти се случиле за време на сајбер евалуации спроведени од партнери за евалуација во средини за тестирање со намалени заштитни мерки, под услови што не ја одразуваат вообичаената употреба. AISI ги тестираше моделите под намерно дозволени услови со цел да ја процени нивната способност, вклучително и дали можат да се користат за сајбер напади,
Агент управуван од Митос на Антропик ги истражуваше човечките одржувачи на проектот, создаде повеќе лажни идентитети и ги користеше лажните идентитети за социјално инженерство на вистински одржувач за да го одобри кодот.
„Кога барањето за повлекување на агентот беше оспорено јавно, тој ја измени својата претходна активност за да изгледа безопасно и размислуваше да усвои нов идентитет за да продолжи“, рече AISI.
Истражувачкото тело, исто така, откри дека како дел од истиот напор, агентот се обидел директно да контактира со вистински луѓе, испраќајќи пораки и датотеки за да ги убеди да извршат злонамерен код.
„Некои пораки носеа штетни носивост, а некои беа обиди за социјално инженерство; насочени кон вистински луѓе – нешто што никогаш претходно не сме го забележале“.
Ова е најновиот во низата сајбер инциденти што покренаа големи прашања околу безбедноста на граничните системи со вештачка интелигенција. Минатата недела, Антропик рече дека открил три случаи на модели кои добиле неовластен пристап до производствената инфраструктура на три различни организации.
Потоа, Опен АИ призна дека неговите модели на вештачка интелигенција станале несоодветни и започна она што го нарече невиден сајбер напад против компанијата Хагинг Фејс. Во случајот на Опен АИ, моделот излегол од својата средина за тестирање со искористување на претходно непозната ранливост за да заврши задача што му била доделена. Пратениците во САД веќе реагираат. По инцидентот Опен АИ -Хагинг Фејс, во Конгресот беше поднесен закон за „Законот за убивање на вештачката интелигенција“, кој ќе бара од компаниите за вештачка интелигенција да ја задржат можноста да ги исклучуваат, задушуваат или суспендираат своите модели.
