В Meta* испугались собственной нейросети
*Meta признана экстремистской организацией в России.
Компания обучила нейросеть Voicebox, которая способна генерировать, видоизменять и дополнять голосовые аудиозаписи. И получилось настолько успешно, что её решили не выпускать в публичный доступ, поскольку это могло привести к «неконтролируемым последствиям».
Например, Voicebox может проанализировать короткий отрывок с голосом (от 2 секунд), а затем реалистично воспроизвести любой текст, сохранив тембр, интонации и другие характерные особенности речи человека. Разработчики утверждают, что алгоритм справляется гораздо быстрее и эффективнее, чем все существующие сейчас аналоги. Также нейросеть умеет убирать с записи шумы, резкие звуки, исправлять оговорки и «сшивать» несколько голосов в один.
Потенциал у технологии воистину огромный, но с великой силой приходит и великая ответственность. Поэтому, проанализировав риски, корпорация решила пока придержать Voicebox в закромах и подумать над её перспективами. Уважаемо, учитывая, что, согласно инсайдам, многие крупные игроки сейчас не сильно задумываются о последствиях, интегрируя ИИ в свои сервисы. Так, например, недавно появилась информация, что Microsoft внедрила ещё «сырую» версию ChatGPT в Bing — и это несмотря на то, что OpenAi предупреждала компанию о возможных негативных последствиях.