Acusan a un profesor de gimnasia de usar una voz clonada por IA con el fin de despedir al director del instituto

Acusan a un profesor de gimnasia de usar una voz clonada por IA con el fin de despedir al director del instituto

abril 28, 2024 Desactivado Por

En el momento en que nos hemos acostumbrado a utilizar la IA en nuestro día a día, parece que no hay forma de dejarla atrás. Muchas personas ya acuden a búsquedas de información utilizando asistentes virtuales en lugar de buscar en Google como antaño. Esto les proporciona la información que buscan inmediatamente, enlaces a webs donde se encuentra y en términos generales, ahorra minutos u horas de estar navegando por Internet. Esto es un solo un ejemplo de lo que es posible, pues en la actualidad ha habido un profesor de gimnasia que ha utilizado una voz clonada por IA con el fin de despedir a un director de instituto.

La IA generativa ya es conocida por prácticamente todo el mundo, sea por la gran cantidad de contenido que se ha creado con esta o por el hecho de que dichas herramientas se encuentran gratis y son sencillas de utilizar. Aquí incluimos IA generativa de textos como chatbots y asistentes virtuales, al igual que la IA generativa de imágenes que lleva más tiempo con nosotros. A esto debemos añadirle otras IA generativas que hacen contenido distinto, como aquellas que simulan la voz de otras personas, algo que se utiliza para hacer deepfakes.

El profesor de gimnasia utilizó la IA generativa para clonar la voz del director y conseguir que lo despidieran con un discurso racista

Es posible hacer que la inteligencia artificial genere todo tipo de contenido, siempre que se entrene con la información necesaria para que aprenda a hacerlo. Así es como hemos pasado de generar imágenes, a textos, audio, música y hasta vídeos. Las posibilidades parecen infinitas y estamos en los primeros años de la IA generativa, por lo que va a ir mejorando con el tiempo. Aun así, la tecnología actual es más que suficiente para engañar a las personas y eso lo hemos visto con las imágenes creadas por IA.

Ahora tenemos un caso de un profesor de gimnasia y exdirector deportivo de la escuela secundaria Pikesville del condado de Baltimore, el cual ha sido acusado y detenido por clonar la voz del director usando IA y así hacer que lo despidieran. Este consiguió hacer una grabación con esta voz simulada del director donde se escuchaba un discurso racista con comentarios antisemitas.

Los expertos detectaron que la voz era falsa al tener ausencia de pausas y respiración

El profesor de gimnasia consiguió que esta grabación provocase la suspensión del director tras publicarla en redes sociales, pero no pudo celebrar su éxito durante mucho tiempo. Un grupo de expertos procedió a analizar dicha conversación y determinaron que era falsa, pues la voz tenía un «tono plano, el sonido de fondo era demasiado limpio y no había pausas ni sonidos de respiración«. Al parecer la voz clonada hizo un trabajo lo suficientemente bueno como para conseguir su objetivo, pero no logró engañar a los expertos.

Tras reconocer que era falsa, la policía de Baltimore rastreó la grabación y esta le llevó a Dazhon Darien, el profesor de gimnasia y antiguo director deportivo de este mismo instituto. En ese momento es cuando se reveló que utilizaba los PC de la escuela para acceder a OpenAI y la IA de Microsoft Bing, pero se desconoce que herramienta de voz IA utilizó. Al final, fue detenido el jueves y la policía emitió un comunicado indicando que la represalia contra el director fue cuando este investigaba el mal uso de los fondos escolares. Al final ha acabado pagando una fianza para estar en libertad, pero tendrá que lidiar por los casos de robo, perturbación y represalias.

La entrada Acusan a un profesor de gimnasia de usar una voz clonada por IA con el fin de despedir al director del instituto aparece primero en El Chapuzas Informático.