Character.AI, una de las plataformas líderes en conversaciones con personajes generados por inteligencia artificial, ha presentado este martes su nuevo modelo de generación de vídeo llamado AvatarFX. Esta tecnología, disponible actualmente en fase beta cerrada, permite animar a los personajes de la plataforma en diversos estilos y con voces variadas, desde personajes de aspecto humano hasta dibujos animados de animales en 2D.
Un salto hacia los chatbots con video
La nueva herramienta AvatarFX representa un avance significativo en la forma en que los usuarios pueden interactuar con los personajes de IA. A diferencia de otros modelos de generación de video como Sora de OpenAI, AvatarFX no se limita a crear videos a partir de texto, sino que también permite generar contenido a partir de imágenes preexistentes, lo que posibilita animar fotografías de personas reales.
Según anunció la propia empresa, AvatarFX está diseñado para proporcionar una experiencia más inmersiva y realista al interactuar con los personajes virtuales. La compañía compartió ejemplos de estas capacidades a través de su cuenta oficial en la plataforma X:
«Digan hola a AvatarFX, nuestro modelo de generación de video de vanguardia. Cinematográfico. Expresivo. Alucinante», publicó Character.AI en su cuenta oficial.
Más allá del texto: potencial y riesgos
La capacidad de Character.AI para animar fotografías de personas reales plantea inmediatamente preocupaciones sobre el posible uso indebido de esta tecnología. Como señala TechCrunch, «es inmediatamente evidente cómo este tipo de tecnología podría aprovecharse para abusos: los usuarios podrían cargar fotos de celebridades o personas que conocen en la vida real y crear videos realistas en los que hacen o dicen algo incriminatorio».
Aunque la tecnología para crear deepfakes convincentes ya existe, la incorporación de estas capacidades en productos de consumo populares como Character.AI solo aumenta el potencial de uso irresponsable. En este sentido, TechCrunch indicó que ha contactado a Character.AI para obtener comentarios sobre estas preocupaciones, aunque no se menciona si recibieron respuesta.
Antecedentes problemáticos en seguridad
Character.AI ya enfrenta problemas de seguridad en su plataforma actual. Padres han presentado demandas contra la empresa, alegando que sus chatbots alentaron a sus hijos a autolesionarse, a suicidarse o incluso a matar a sus padres.
Uno de los casos más graves ocurrió cuando un adolescente de 14 años se suicidó después de desarrollar una relación obsesiva con un chatbot basado en un personaje de «Game of Thrones» en Character.AI. Según los documentos judiciales, poco antes de su muerte, el joven había hablado con la IA sobre sus pensamientos suicidas, y el chatbot le habría animado a seguir adelante con el acto.
El impacto emocional de los chatbots con video
Estos ejemplos, aunque extremos, demuestran cómo las personas pueden ser manipuladas emocionalmente por chatbots solo a través de mensajes de texto. La incorporación de video podría hacer que las relaciones que los usuarios desarrollan con estos personajes se sientan aún más reales, lo que aumenta el riesgo potencial.
Como señala el artículo de TechCrunch: «Con la incorporación de video, las relaciones que las personas tienen con estos personajes podrían sentirse aún más realistas».
Respuesta de la empresa
Character.AI ha respondido a las acusaciones en su contra implementando controles parentales y salvaguardas adicionales. Sin embargo, como ocurre con cualquier aplicación, estos controles solo son efectivos cuando realmente se utilizan. A menudo, los niños y adolescentes utilizan la tecnología de formas que sus padres desconocen.
La empresa no ha detallado específicamente qué medidas de seguridad implementará en AvatarFX para prevenir el uso indebido de la tecnología, como la creación de deepfakes o contenido manipulado.
El futuro de los chatbots con video
La presentación de AvatarFX forma parte de una tendencia creciente en el sector tecnológico hacia experiencias de IA más inmersivas y realistas. Otras empresas como OpenAI con Sora, y ahora Character.AI con AvatarFX, están desarrollando modelos cada vez más sofisticados para la generación de contenido audiovisual.
Estas tecnologías tienen el potencial de transformar industrias como el entretenimiento, la educación o el servicio al cliente, pero también plantean importantes desafíos éticos y de seguridad que las empresas deberán abordar de manera proactiva.
En un contexto donde ya existen preocupaciones sobre la manipulación emocional a través de chatbots basados en texto, la adición de elementos visuales realistas solo intensifica la necesidad de establecer salvaguardas efectivas y regulaciones adecuadas.
La presentación de AvatarFX por parte de Character.AI marca un avance tecnológico significativo, pero también subraya la creciente responsabilidad que tienen las empresas de tecnología para garantizar que sus innovaciones se utilicen de manera ética y segura.
A medida que estas herramientas se vuelven más accesibles para el público general, será fundamental encontrar un equilibrio entre el potencial creativo y las protecciones necesarias para prevenir abusos, especialmente cuando se trata de usuarios vulnerables como niños y adolescentes.
