OpenAI staat voor een groot dilemma. Het bedrijf heeft een krachtig AI-model gecreëerd voor het klonen van stemmen, maar aarzelt om het beschikbaar te stellen.
Op dit moment wordt alleen een indrukwekkende demo van Voice Engine ter beschikking gesteld.
Het model heeft slechts twee dingen nodig: een audiovoorbeeld van de originele stem en een tekst die de synthetische stem zou moeten voorlezen. De input is minimaal. Voice Engine heeft slechts 15 seconden audio nodig voor een realistische weergave.
Zo’n krachtig instrument zou een machtig wapen kunnen worden in de handen van ‘kwaadwillende actoren’, vreest het bedrijf. En al helemaal in aanloop van de Amerikaanse verkiezingen.
Voice Engine werd eind 2022 ontwikkeld. Sindsdien wordt getest met stemmen van een kleine groep vertrouwde partners. ‘Tegelijkertijd kiezen we voor een voorzichtige benadering vanwege het potentieel voor synthetisch stemmisbruik. We hopen een dialoog op gang te brengen over het verantwoord inzetten van synthetische stemmen. Op basis van deze gesprekken en de resultaten van deze kleinschalige tests zullen we een beter geïnformeerde beslissing (kunnen) nemen over de vraag of en hoe we deze technologie op grote schaal kunnen inzetten.’
This is a cloned voice. OpenAI’s #VoiceEngine can create these convincingly realistic speech expressions using as little as 15 seconds of audio sample: pic.twitter.com/9LIGhBA3sL
— Martin Hodás (@Hody_MH11) March 31, 2024
emerce
02-04-2024 08:57