Главният изследовател на OpenAI хвърли оставка

Бъдещето е несигурно

Главният изследовател на OpenAI, отговарящ за подготовката на компанията и света за появата на общ изкуствен интелект (AGI), подаде оставка, предупреждавайки, че никой не е готов за това бъдеще.

В публикация в Substack, наскоро напусналият директор за AGI, Майлс Брандиж, сподели, че решението да напусне "работата-мечта" след шест години е трудно, но се чувства задължен, предвид отговорността около разработката на изкуствен интелект с човешко ниво на интелигентност, която OpenAI се опитва да постигне.

"Реших," написа Брандиж, "че искам да влияя върху развитието на AI отвън, а не отвътре."

По отношение на готовността за справяне с тази все още теоретична технология, Брандиж бе категоричен: "Нито OpenAI, нито който и да е друг водещ разработчик са готови, и светът също не е готов."

След това смело изказване, Брандиж сподели, че е обсъждал своите притеснения с ръководството на OpenAI. Въпреки че терминът AGI е според него "преекспониран и представя нещата в твърде двоична светлина," той изтъкна, че развитието на изкуствения интелект всъщност минава през различни "нива."

Брандиж участва активно в създаването на петстепенната скала на OpenAI за развитието на AI/AGI, изтекла в медиите през лятото. Тази скала завършва с AI, способен да изпълнява задачи на голяма организация. В момента светът се намира близо до ниво две — AI с човешки способности за разсъждение.

Въпреки това, Брандиж настоява, че нито OpenAI, нито светът са подготвени за следващото поколение AI системи, които се разработват.

Той отбелязва, че макар AGI да може да донесе ползи за цялото човечество, това няма да се случи автоматично. Важно е хората, които го създават и регулират, да подхождат съзнателно и отговорно, което предполага, че според него OpenAI може би не е достатъчно внимателен в управлението на AGI.

След напускането на Брандиж, OpenAI ще преразпредели членовете на екипа му към други групи в организацията. Това разпускане на AGI екипа за готовност идва по-малко от шест месеца след разпускането на екипа за AI безопасност, което допълнително поставя въпроси относно стабилността на ръководството в компанията.