Призив за забавяне на технологиите
Ръководителят на компанията за изкуствен интелект "Антропик" Дарио Амодей заяви, че е необходимо спешно забавяне на темпа на развитие на новите технологии. По неговите думи, бързото развитие в сферата на изкуствения интелект може да доведе до непредсказуеми и сериозни рискове за човечеството, особено в контекста на биологическите заплахи.
Стратегия за безопасност
Според Амодей, текущият хаос в регулирането на алгоритмите представлява сериозна опасност. Той предлага план от три основни стъпки, които да помогнат за въвеждането на необходимите регулации:
- Прилагане на независим мониторинг на процесите за обучения и разработване на нови модели.
- Оценка на риска от злонамерени действия и небрежност от страна на разработчиците.
- Обезпечаване на адекватна реакция на правителствата на предизвикателствата, свързани с новите технологии.
Рисковете от изкуствения интелект
Специалисти в областта изчисляват, че вероятността изкуственият интелект да излезе извън контрол е над 10%. Ако ситуацията не бъде адресирана, това може да доведе до катастрофални последствия за човечеството в рамките на десетилетия.
Според Уилям Макаскил, служител по сигурността в компанията Forethought, "има различни начини, по които това може да се случи. Един от тях е чрез злоупотреба от злонамерени или просто небрежни лица".
Заплахата от нови вируси
Макаскил подчертава, че напредъкът в научните изследвания, поддържан от изкуствения интелект, в комбинация с незаслужена лекота на достъпа до информация, мога да доведе до създаването на нови, непознати вируси. Той предупреждава, че "когато изкуственият интелект започне да ускорява научния напредък, може да предостави възможност за генериране на нови вируси, които да бъдат трудни за контролиране."
