Этот голосовой движок был разработан в 2022 году и использовался для преобразования текста в речь в приложении ChatGPT, однако его публичное раскрытие было отложено из-за озабоченности компании OpenAI по поводу безопасного и ответственного использования технологии.
Несмотря на то, что некоторые партнеры уже имеют доступ к этому инструменту для встраивания в свои приложения, OpenAI призывает к размышлениям о дальнейшем распространении этой функции. Компания подчеркивает важность обсуждений о надлежащем использовании синтетических голосов и необходимость подготовки общества к новым вызовам, которые могут принести подобные технологии.
Один из примеров использования этой технологии - создание озвучки сценариев и перевод записанного контента с сохранением особенностей голоса оригинального диктора. Однако специалисты с Института неврологии опасаются потенциальных злоупотреблений голосовыми клонами, особенно в период политических выборов.
Для предотвращения негативных последствий компании уже работают над системами обнаружения и блокировки недобросовестного использования клонирования голоса, особенно в целях политической манипуляции. В то же время конкуренты OpenAI уже предлагают технологии, позволяющие создавать голосовые клонов за считанные минуты, что усиливает необходимость принятия мер по обеспечению безопасности и прозрачности в использовании подобных ресурсов.