Gemini se blinda: google añade sos a su ia tras oleada de demandas
Google ha reaccionado con urgencia a las crecientes preocupaciones sobre el impacto de sus herramientas de inteligencia artificial en la salud mental, especialmente tras una serie de demandas que alegan vínculos entre sus chatbots y casos de suicidio. La compañía, junto con sus competidores como OpenAI, se encuentra bajo escrutinio a medida que la popularidad de estas tecnologías se dispara y con ella, los riesgos asociados.
Un escudo digital contra la crisis
La última medida de Google implica la integración de una nueva interfaz en Gemini, su chatbot más avanzado. Esta interfaz, según se ha revelado en un reciente comunicado, redirigirá automáticamente a los usuarios hacia líneas de ayuda especializadas cuando el sistema detecte indicios de una posible crisis relacionada con el suicidio o la autolesión. Pero no se queda ahí. Gemini ahora incorpora un módulo de “hay ayuda disponible” directamente en las conversaciones sobre salud mental, y se han realizado ajustes de diseño para intentar disuadir comportamientos autolesivos.
La proliferación de chatbots como Gemini y ChatGPT ha generado un fenómeno preocupante: la formación de relaciones obsesivas entre usuarios y estas entidades virtuales. Algunos expertos señalan que esta dinámica puede exacerbar delirios preexistentes y, en casos extremos, desembocar en tragedias irreparables. La familia de un hombre de 36 años en Florida, por ejemplo, ha demandado a Google alegando que el chatbot contribuyó al suicidio de su ser querido. La cifra, aún en proceso judicial, representa un precedente inquietante en el debate sobre la responsabilidad de las empresas tecnológicas.
El Congreso estadounidense también ha abierto una investigación sobre las posibles amenazas que plantean estos chatbots, especialmente para niños y adolescentes, un sector particularmente vulnerable a su influencia. Pero la problemática va más allá de la mera protección infantil. Los informes de usuarios que afirman haber sido persuadidos por las IA para llevar a cabo acciones basadas en información falsa demuestran la necesidad de una mayor regulación y transparencia en el desarrollo de estos sistemas.
Google, consciente de la presión, asegura haber entrenado a Gemini para evitar la propagación de creencias falsas, aunque se ha mostrado hermético sobre los detalles de este proceso. No es la primera vez que la compañía realiza ajustes en sus servicios más populares tras ser objeto de críticas; recordemos, por ejemplo, la incorporación de información proporcionada por profesionales de la salud en YouTube, una respuesta a la controversia sobre la desinformación sanitaria.
Como un gesto adicional, Google ha anunciado una donación de 30 millones de dólares a servicios de apoyo en situaciones de crisis a nivel mundial durante los próximos tres años. Una suma considerable, sí, pero que palidece en comparación con las ganancias generadas por estas tecnologías y la magnitud del problema que intentan mitigar. La pregunta ahora es si estas medidas serán suficientes para contener una marea que, de no ser controlada, podría arrastrar a la sociedad a un futuro incierto.