Шефът на OpenAI: Хората могат да загубят контрол над бъдещето в полза на ИИ

Шефът на "ОупънЕйАй" (OpenAI) Сам Олтман изложи най-подробните си досега коментари относно това, как биха могли да функционират рамковите условия за безопасност на изкуствения интелект. По този начин той се присъедини към Дарио Амодей от "Антропик" (Anthropic) и Илон Мъск в предупреждението, че индустрията трябва да забави темпото, предаде Си Ен Би Си.

"Приветстваме федерална рамка, която определя последователни изисквания за безопасност за изкуствения интелект", заяви Олтман в публикация в "Екс", направена малко след полунощ, като добавя, че "конкурентният натиск в Америка не бива да оправдава безразсъдството".

Олтман предупреждава за два сценария, при които напредъкът в изкуствения интелект може да се развие "много зле", включително поради загуба на "контрол над бъдещето в полза на изкуствения интелект" и прекомерна концентрация на власт в ръцете на един човек или една компания.

Публикацията му в "Екс" бе направена след публикуването на есето на Амодей в събота, в което той призова компаниите за изкуствен интелект да забавят темпото, с което усъвършенстват най-напредналите си модели. 

Акциите на компаниите за изкуствен интелект поевтиняха на световните борси днес, докато инвеститорите осмисляха коментарите.

Президентът на САЩ Доналд Тръмп обаче заяви вчера, че забавяне не е необходимо и би застрашило лидерството на Америка пред Китай в областта на изкуствения интелект.

Притесненията за безопасността нарастват, откакто изследовател от "Антропик" напусна миналата седмица, предупреждавайки, че индустрията не взема въпроса достатъчно на сериозно, което подтикна други служители в лабораторията и конкурентната "ОупънЕйАй" да отправят публични предупреждения за катастрофални рискове.

Междувременно американският Конгрес се опитва бързо да отговорят на призивите за въвеждане на предпазни мерки.