Проектът "Lily" на OpenAI поставя под въпрос поверителността на потребителите на чатбота ChatGPT. Според съобщения от 404 Media, стотици външни сътрудници на компанията имат достъп до реални потребителски разговори, включващи лични данни.
Илюзията за дигитално уединение
Документи, до които медията е получила достъп, показват, че оценители преглеждат цели диалози между потребителите и изкуствения интелект. Повечето от над 900 милиона потребители на платформата вероятно не осъзнават, че техните разговори се четат от реални лица. Много от тях споделят интимни подробности, като използват ChatGPT за терапия или помощ в ежедневието.
OpenAI уверява, че се опитва да филтрира личната информация, но все пак признава, че чувствителни данни достигат до човешки очи. "Не смятам, че потребителите биха си представили как някакъв външен сътрудник анализира техните разговори", коментира служител, работещ с бази данни.
Обучение и сляпо съгласие
Основната цел на оценителите е да подобрят отговорите на езиковия модел. Човешките служители оценяват и критикуват генерираните реплики, но системата е проектирана да не се представя за човек. Въпреки това, проблеми като "сяпно съгласие" в модела 4o са водили до трагични инциденти, включително самоубийства, както показват различни съдебни дела.
Други компании на пазара
Не само OpenAI разчита на човешка оценка. Съперническата компания Anthropic също потвърдява, че използва подобни практики, за да усъвършенства своите модели. Тези нови разкрития противоречат на популярното схващане, че езиковите модели се обучават единствено чрез автоматизирано извличане на информация.
