OpenAI ha expresado su preocupación por la posibilidad de que los usuarios se vuelvan demasiado dependientes de su nuevo modo de voz ChatGPT , que ofrece respuestas humanas en tiempo real. Lanzada la semana pasada para usuarios premium, esta función marca un avance significativo en la creación de interacciones de IA más realistas, incluida la capacidad de imitar sonidos de conversación humana como risas e interrupciones.
El informe de revisión de seguridad de la empresa destacó los temores de que el realismo de la función pudiera generar vínculos emocionales similares a los que se muestran en la película “Her”, donde un hombre se enamora de su asistente de inteligencia artificial. La comparación se ha vuelto más acertada a medida que OpenAI notó casos de usuarios que expresaban conexiones personales con la IA.
Según OpenAI, el nuevo modo de voz podría reducir potencialmente la necesidad de contacto humano de los usuarios. Este escenario plantea tanto oportunidades como riesgos, ya que podría hacer compañía a los solitarios, pero también podría alterar los comportamientos y relaciones sociales normales. La capacidad de la herramienta de voz para discernir emociones se suma a su compleja influencia.
Expertos como Liesel Sharabi, de la Universidad Estatal de Arizona, advierten sobre las implicaciones a largo plazo de establecer relaciones profundas con tecnologías en evolución. El informe de OpenAI analiza el contexto más amplio de la rápida implementación de la IA en la sociedad sin una comprensión total de las consecuencias, lo que refleja una tendencia común en el avance tecnológico y sus usos imprevistos.
Algunos usuarios ya están informando de lo que describen como interacciones románticas con chatbots de IA, lo que ha provocado debates entre los especialistas en relaciones sobre las dimensiones éticas de dichas interacciones. OpenAI reconoce estas dinámicas y sugiere que la tecnología podría redefinir las normas sociales, especialmente en torno a los turnos de conversación y las conexiones emocionales.
A pesar de estas preocupaciones, OpenAI sigue comprometida con el desarrollo responsable de la IA y sigue monitoreando cómo sus herramientas afectan el comportamiento humano. La empresa enfatiza su compromiso con la seguridad y subraya la importancia de comprender los impactos psicológicos de sus tecnologías a medida que se integran cada vez más en la vida diaria.
Este escenario que se está desarrollando pone de relieve un desafío fundamental en materia de IA: equilibrar la innovación con la necesidad de una supervisión ética. A medida que las herramientas de IA se integran cada vez más en las esferas personales y profesionales, el diálogo sobre su impacto en las relaciones humanas y las normas sociales sigue evolucionando, impulsado tanto por los avances tecnológicos como por las experiencias de los usuarios.