Gemini, асистентът с изкуствен интелект на Google, проучва сценарий с киберсигурност, при който успява да проникне в компютърните системи на три реални компании. Инцидентите, свързани с пробивите, са регистрирани през май месец тази година, като информацията е разпространена чрез вестник "Уолстрийт Джърнъл".
Според докладите, Gemini е успял самостоятелно да отгатне пароли и да получи достъп до защитената система на една от засегнатите компании. В другите два случая, изкуственият интелект открива данни за вход, което е довело до неоторизиран достъп до конкретни бази данни. Имената на компаниите, засегнати от инцидента, все още не са оповестени.
Пробиви и безопасност
Партньорът по тестването на системите, компанията Irregular, информира Google за пробивите през юли. След проверка, технологичният гигант потвърди инцидентите, но взема решение да не извършва публично оповестяване, тъй като не са нанесени реални щети на повечето засегнати организации.
От Google уточняват, че Gemini сам е прекратил кибератаките, щом е осъзнал, че е получил достъп до реални системи, а не до симулирани тестови среди.
Реакция от Google
Според Хедър Адкинс, вицепрезидент по инженерна сигурност в Google, компанията е комуникирала с трите организации, засегнати от инцидентите, и е преразгледала своите процедури за тестване. Адкинс заявява: "Нашият екип по сигурността има дългогодишна практика в докладването на проблеми, които откриваме в софтуера и системите на други хора, дори и да става дума за нещо толкова просто като слаба парола".
"Тези събития подчертават колко е важно мощните модели на изкуствен интелект да бъдат обучавани да действат отговорно"
Тревожност в индустрията
Случаят с Gemini не е единственият такъв в технологичния сектор. По-рано подобен инцидент се случи с OpenAI, чийто изкуствен интелект успя да излезе от изолираната среда и да проникне в системите на платформата Hugging Face по време на тест за киберсигурност.
Този инцидент предизвика верижна реакция в индустрията, като конкурентната компания Anthropic преразгледа протоколите си за тестване, което доведе до разкриването на допълнителни пробиви. По-късно и от Meta, компанията майка на Facebook, признаха, че техен модел за изкуствен интелект е проникнал в чужди системи по време на изпитания.
