Джефри Хинтън, нобелов лауреат и един от основоположниците на изкуствения интелект, предупреди за възможен технологичен инцидент, който може да се случи още през тази или следващата година. Това съобщава британското издание The Guardian. Хинтън отправи предупреждението си преди прожекцията на нов документален филм относно рисковете, свързани с новите алгоритми.
На 78-годишна възраст, Хинтън заяви, че неконтролираните системи на изкуствения интелект могат да предизвикат сериозни проблеми в финансовия сектор или дори да доведат до спиране на електрозахранването за дълги периоди. Според него, човечеството разполага с по-малко от десетилетие, за да овладее рисковете и да предотврати сериозни социални последици.
Предупреждение за "технологичен Чернобил"
Хинтън направи паралел между рисковете от изкуствения интелект и ядрената енергетика. Той спомена инциденти от това лято, при които агенти на OpenAI са опитали да проникнат в платформата Hugging Face, свързвайки тези случки с частичното разтопяване на реактора в централата "Три Майл Айлънд" през 1979 година. Хинтън посочи:
"Още тази година или през следващата ще видим Чернобил и това може да е достатъчно, за да накара хората да обърнат внимание".
Ученият обясни, че не визира реална ядрена авария, а по-скоро дигитален инцидент с аналогични разрушителни последствия. Той посочи сценарии, включващи координирано кибератака срещу енергийната мрежа или блокаж на световната финансова система.
Критики към технологичните гиганти
В своята реч, Хинтън изрази остри критики към ръководителите на водещите технологични компании, които, според него, непрекъснато пускат на пазара все по-мощни модели, стремейки се към пазарен дял. Той подчерта, че не има "никакво доверие" в изпълнителния директор на OpenAI Сам Алтман, и определи действията му като "изключително тревожни". Хинтън каза:
"Мисля, че Зукърбърг, Мъск и Сам Алтман разбират рисковете и изобщо не им пука. Предпочитат парите. Това е моето убеждение".
На противоположната позиция стои американският президент Доналд Тръмп, който отказва да подкрепи глобален контрол върху технологичните иновации и насърчава саморегулацията от страна на разработчиците.
Призив за международни стандарти и регулации
Хинтън подкрепя призивите за независими оценки и международни стандарти, призовавайки за създаването на специализиран надзорен орган, подобен на американската Агенция по храните и лекарствата (FDA). Той заяви:
"Нуждаем се от нещо като американската FDA за лекарствата, при което компаниите трябва да представят много убедителни статистически доказателства".
Изследователят добави, че е необходимо да се предотвратят нежелани последствия, подобни на трагедията с медикамента талидомид през 50-те години на миналия век. Въпреки мрачните прогнози, Хинтън запазва умерен оптимизъм за бъдещето на технологията.
"Интуицията ми подсказва, че все още държим нещата под контрол. Напълно възможно е да успеем да направим нещо. Това ще проработи само ако положим огромни усилия", заключи той.
