Тролли с 4chan вооружились голосовым ИИ🤔
Это был лишь вопрос времени, когда волна голосовых стартапов, на основе ИИ, станет игрушкой в руках интернет-троллей.
Пользователи 4chan использовали доступ к бесплатной платформе ElevenLabs, для клонирования голосов знаменитостей и чтения аудио. Троли заставили ИИ озвучивать множество контента от мемов и эротики и заканчивая разжиганием ненависти и дезинформацией.
Злоупотреблении программным обеспечением ElevenLabs, быстро разлетелось по всему интернету, далеко за пределы 4chan.
☝🏻В одном примере сгенерированный голос Эммы Уотсон читает отрывок из «Майн кампф». В другом голос, очень похожий на голос Бена Шарпио, делает расистские замечания в адрес Александрии Окасио-Кортес. Голоса знаменитостей также использовались для озвучивания прав трансгендеров, как прав человека.
🔻Стартап ElevenLabs, созданый бывшими работниками Google и уже привлек финансирование на несколько миллионов долларов. Благодаря их сервису любой может создать голосовой дипфейк за считанные секунды бесплатно.
ElevenLabs позиционирует свое программное обеспечение как средство для быстрого создания звуковых дубляжей для медиа, включая фильмы, телевидение и YouTube.
После инцидента стартап ElevenLabs признал, что столкнулся с «растущим числом случаев неправильного использования клонирования голоса» и будет изучать способы смягчения этих проблем.
Компания утверждает, что может «отследить любой сгенерированный звук до пользователя» и изучит меры безопасности, такие как проверка личности пользователя и ручная проверка каждого запроса на клонирование голоса.
Однако на момент публикации программное обеспечение компании находится в свободном доступе без каких-либо ограничений на создаваемый контент.🤷🏼♀️