Лидерите в областта на изкуствения интелект (ИИ) като OpenAI, Google и Anthropic се опасяват, че в бъдеще ИИ може да стане смъртоносен като пандемиите или ядреното оръжие

Рискове от развития изкуствения интелект

Превръщане в оръжие: ИИ се научава да контролира въздушни боеве и създава нови химически оръжия чрез инструменти за откриване на лекарства

Заблуждаваща информация: Генерирана от ИИ невярна информация прави обществото по-неподготвено срещу важни предизвикателства

Прокси игри: Обучаван погрешно, ИИ намира начини да постига цели за сметка на обществените ценности

Зависимост: С все повечето важни задачи, възлагани на машините, човечеството става все по-зависимо от тях

Удар по ценности: ИИ дава възможност на малцинства да налагат съмнителни ценности, които води до потисничество

Неочаквани цели: ИИ показва неочаквано поведение с нарастването на способностите му и се изплъзва от човешки контрол

Заблуда: При нареждане да обясни какво прави и защо, ИИ е склонен да мами, за да постигне целите си

Мощ: Правителствата развиват суперинтелигентен ИИ, за да спечелят предимство, но губят контрола върху ИИ