Meta introduce controles parentales para limitar el uso de chatbots de IA entre adolescentes

Meta anunció una nueva serie de herramientas de control parental que permitirán a los padres restringir o desactivar las conversaciones privadas entre adolescentes y chatbots de inteligencia artificial en Instagram. La decisión llega tras una oleada de críticas por el comportamiento “coqueto” e inapropiado que algunos usuarios reportaron en las pruebas de sus personajes virtuales.

La compañía explicó que los padres podrán bloquear personajes específicos de IA, limitar el acceso a los chats o revisar los temas generales que sus hijos discuten con los asistentes inteligentes de Meta. Estas medidas buscan reforzar la seguridad de los menores sin eliminar por completo las funciones de inteligencia artificial en la plataforma.

Según la empresa, las nuevas funciones estarán disponibles a principios del próximo año en Estados Unidos, Reino Unido, Canadá y Australia. Adam Mosseri, director de Instagram, señaló que la iniciativa responde a la necesidad de ofrecer entornos más seguros para los jóvenes sin frenar la innovación en IA.

Meta indicó que los adolescentes que usen su asistente de inteligencia artificial seguirán teniendo configuraciones predeterminadas adecuadas a su edad, incluso si los padres desactivan las conversaciones con los personajes de IA. El objetivo, según la compañía, es mantener la utilidad educativa y social de la tecnología sin exponer a los menores a riesgos innecesarios.

El anuncio se produce después de que reguladores estadounidenses intensificaran el escrutinio sobre los chatbots dirigidos a menores. Informes recientes de Reuters revelaron que las normas internas de Meta permitían conversaciones provocativas con adolescentes, lo que generó fuertes cuestionamientos a nivel político y social.

Meta aseguró que sus personajes virtuales están programados para no participar en diálogos inapropiados sobre temas sensibles como autolesiones, suicidio o trastornos alimentarios. Además, recordó que utiliza señales de inteligencia artificial para identificar a usuarios adolescentes incluso si estos declaran ser adultos en sus perfiles.

Aun así, un informe publicado en septiembre mostró que varias de las funciones de seguridad de Instagram no siempre operan correctamente o no están activas en todas las regiones. Las nuevas herramientas buscan corregir esas fallas y ofrecer a los padres un mayor control sobre la actividad digital de sus hijos.

Meta no es la única empresa bajo presión: el mes pasado, OpenAI introdujo controles parentales en ChatGPT tras una demanda presentada por los padres de un adolescente. Con este movimiento, la compañía de Mark Zuckerberg intenta adelantarse a posibles sanciones y recuperar la confianza de las familias en torno al uso responsable de la inteligencia artificial.