Вработени во Антроик предупредуваат дека вештачката интелигенција може да го истреби човештвото за една деценија

Еден ден откако поранешен истражувач во Anthropic даде апокалиптична изјава за вештачката интелигенција, повеќе истражувачи и членови на персоналот во стартапот за вештачка интелигенција јавно се согласија со него и објавија свои ужасни предупредувања, пренесува Гардијан.

Како одговор, Елон Маск и други конзервативни личности на Икс, го нарекоа хорот на загрижености „наместување“ и „псиоп“. Инсајдерите во Anthropic стравуваат дека технологијата што ја градат би можела да стане толку напредна и опасна што ќе предизвика истребување на човештвото во рок од една деценија, и тврдат дека многу од нивните колеги го чувствуваат истото, но не го кажале тоа јавно.

Овие истражувачи и вработени објавуваат како одговор на сега веќе виралната тема од истражувачот на Anthropic, Џејкоб Коксон, кој во среда изјави дека поднесува оставка од компанијата затоа што ниту Anthropic ниту неговиот конкурент OpenAI, исто така негов поранешен работодавач, не градат одговорно модели на вештачка интелигенција и „се коцкаат со нашите животи“.

Ана Ванг, која работи на безбедноста на вештачката општа интелигенција во Anthropic и претходно работеше во DeepMind на Google, изјави во четврток дека многу луѓе во Anthropic сакаат да го забават развојот за да смислат план за ублажување на ризиците што би можеле да дојдат со овие модели на вештачка интелигенција.

„Сè уште нема одржлив научен план за решавање на ризиците од рекурзивно самоподобрување на вештачката интелигенција“, напиша Ванг на Икс.

Дрејк Томас, друг вработен во Anthropic, рече дека го почитува изборот на Коксон да се воздржи од градење на овие модели ако се грижи дека би можеле да претставуваат ризици на планетарно ниво.

„Работите се движат премногу брзо, немаме ни приближно степен на сигурност што ќе го сакаме за ASI [вештачка суперинтелигенција]“, рече Томас. Маск зазеде поконтрадикторен став. „Изгледа како наместено“, напиша тој. Коксон му одговори на најбогатиот човек во светот со селфи, пишувајќи: „Јас сум реален и ова се моите вистински верувања. Можете да ги прашате вашите истражувачи на xAI за мене ако не сте ги отпуштиле“.

Во изјава за Гардијан, портпарол на Антропик ја бранеше стратегијата на компанијата. „Секогаш сме биле транспарентни дека вештачката интелигенција ќе донесе и огромни придобивки и невидени ризици. За да се справиме со овие ризици, продолжуваме да градиме модели со некои од најсилните заштитни мерки во индустријата“, се вели во соопштението.

Маск и други со попозитивен став за вештачката интелигенција почнаа да шират теории дека објавата на Коксон и последиците што произлегуваат од неа се дел од „психотроп“ за негативно влијание врз чувствата на јавноста за вештачката интелигенција.

„Мислам дека основата за оваа психотропна операција (поради недостаток на подобар термин) е подготвена долго време“, објави Маск на X. „Ова беше токму кибритот што го запали огнот.“

Маск одговараше на објавата на Паркер Тајер, истражувач во конзервативниот тинк-тенк „Капитал Рисрч“, во која тој изнесе теорија со малку докази дека објавата на Коксон е почеток на „МНОГУ софистицирана и добро финансирана ПР операција за добивање поддршка за демократите да ја регулираат вештачката интелигенција до заборав“. Други значајни личности го забележаа тоа.

Бил Акман, милијардерот извршен директор на хеџ фондот Першинг Сквер, исто така го цитираше постот на Тајер, едноставно велејќи „Интересно“.

Други вработени во Антропик го објавија својот договор со Коксон кратко откако тој ја објави својата оставка во среда.

„Развивачите на вештачка интелигенција веруваат дека нивната технологија може да предизвика истребување на човештвото (или слични лоши исходи)“, напиша Самуел Маркс, кој работи на истражување на безбедноста во Антропик. „Ова може да се случи во следните неколку години. Општо земено, колку е повисок вработениот, толку е позагрижен“.

Еван Хубингер, кој се опишува себеси како лидер во одделот за усогласување на компанијата, кој работи на обезбедување дека моделите на вештачка интелигенција на Антропик функционираат во согласност со човечките цели, рече дека Коксон бил „во право“ и дека индустријата заостанува во обидите да се справи со апокалиптичниот потенцијал.

„Навистина искрено веруваме дека вештачката интелигенција може да ги убие сите луѓе!“, напиша Хубингер. „Лично мислам дека е >10% во следната деценија.

Не е сосема јасно како Коксон и другите очекуваат моделите на вештачка интелигенција да го најават крајот на човештвото. Некои експерти се сомневаат дека технологијата ќе стане толку интелигентна што ќе предизвика апокалипса. Гари Маркус, научник и водечки глас во вештачката интелигенција, рече дека е време да се бојкотира вештачката интелигенција, но затоа што таа веќе предизвикува штета.

Повеќе од истребување, Маркус рече дека е загрижен за „ризикот од катастрофа“ од „патогени генерирани од вештачка интелигенција, од војни започнати или ескалирани од дезинформации генерирани од вештачка интелигенција, од хакови што уништуваат критична инфраструктура и така натаму. Ништо што сум видел не дава никаква индикација дека нешто од тоа е под контрола“.

Истиот ден, Антропик објави извештај во кој документираше како компанијата демонтирала операција во која се обидувала да изгради биолошко оружје користејќи ги своите модели на вештачка интелигенција.