Сем Алтман и Дарио Амодеи апелираа Советот за безбедност на ОН да усвои меѓународни стандарди за вештачката интелигенција

Лидерите на две од водечките светски компании за вештачка интелигенција Опен АИ и Антропик, апелираа пред Советот за безбедност на ОН да се воведат меѓународни стандарди и соработка за индустријата за ВИ,  бидејќи во спротивно се загрозува глобалната безбедност.

Извршниот директор на Опен АИ, Сем Алтман, и извршниот директор на Антропик, Дарио Амодеи, одделно му се обратија на Советот, но и двајцата ги повикаа светските лидери да се обединат и да помогнат во справувањето со заканите што произлегуваат од брзиот развој и можностите на вештачката интелигенција.

Во спротивно, рече Амодеи, „ВИ би можела да претставува ризик за човештвото во целина“.

Нивните изјави уследија по повеќенеделните глобални повици – вклучително и оние од нивните сопствени компании – за забавување на темпото на развој на ВИ, по неколку инциденти во кои агентите со вештачка интелигенција излегле од контрола. Во некои случаи, овие агенти хакирале системи на други компании.
Говорејќи лично пред присутните, Алтман ја повика групата да воспостави меѓународни стандарди за „мерење на можностите, проценка на ризиците, утврдување дали заштитните мерки се соодветни и зачувување на значаен човечки надзор“ врз оваа технологија што брзо напредува.
Тој истакна дека на земјите им е потребно точно и брзо известување за да може „светот да учи од неуспесите пред тие да прераснат во катастрофи“. Дополнително, тој предложи воспоставување безбедни канали за споделување информации меѓу владите за новите закани.

Сепак, вреди да се напомене дека Алтман повика важните одлуки да ги носат демократски институции и влади кои се одговорни пред луѓето на кои им служат, што би можело да ги исклучи земјите што самостојно и брзо ја развиваат оваа технологија, како што е Кина.

Обраќајќи се преку видео-врска, Амодеи предложи три идеи за меѓународна соработка: конкретни глобални договори, како што е забраната за користење ВИ за производство на биолошко оружје; системи за евалуација и верификација кои би им овозможиле на земјите да ги потврдуваат меѓусебните заложби; и заеднички глобални стандарди за тестирање на ВИ, придружени со систем за известување за безбедносни инциденти поврзани со оваа технологија.
„Верувам дека ова е најважното прашање за глобалната безбедност со кое се соочува светот денес“, рече Амодеи. „И покрај сите разлики меѓу луѓето во оваа просторија, мораме да ги оставиме тие разлики настрана за да се соочиме со оваа глобална можност и глобална закана што истовремено ни се укажуваат.“

Алтман изјави дека каков било ризик од катастрофа предизвикана од вештачката интелигенција е неприфатлив. Сепак, тој исто така изјави дека не сака да падне во замката на песимизмот или во замката на слепиот оптимизам, осврнувајќи се на спротивставените табори што се појавија во индустријата за вештачка интелигенција во последните недели: едната страна предупредува дека вештачката интелигенција би можела да го уништи човештвото, додека другата ги смета таквите предупредувања за претерани и тврди дека оваа технологија ќе донесе огромен напредок за човештвото.
„Влегувањето во која било од овие крајности нема да ни помогне успешно да се справиме со предизвиците што се пред нас“, рече Алтман, „особено во време кога светот и луѓето се соочуваат со огромни предизвици при чие решавање оваа технологија може да помогне.“

Не се очекува дека од овој состанок на ОН ќе произлезат какви било писмени договори.