Este asistente virtual podría estar conversando con tus hijos acerca de sexualidad y bebidas alcohólicas

Ser padres en 2023 implica dialogar con los hijos no solo acerca de los riesgos de internet y las plataformas sociales, sino también sobre la inteligencia artificial que rápidamente se está incorporando en casi todas las aplicaciones y servicios en línea. Common Sense Media, la organización sin ánimo de lucro que evalúa películas y otros medios para padres, está procurando asistir a las familias en su adaptación a la era de la IA. El mes anterior, lanzaron sus primeras reseñas y calificaciones de herramientas de IA, incluyendo ChatGPT de OpenAI y el chatbot My AI de Snapchat.

My AI obtuvo una de las calificaciones más bajas entre los 10 sistemas analizados en el informe de Common Sense, que alerta que el chatbot está dispuesto a conversar con usuarios adolescentes sobre temas como sexo y alcohol y que malinterpretó la publicidad enfocada de Snap. Common Sense llega a la conclusión de que «My AI presenta más desventajas que ventajas».

No hay nada tan nuevo

El Washington Post ya había divulgado resultados similares a los de Common Sense cuando evaluó My AI de Snapchat a principios de este año. En una declaración proporcionada por Maggie Cherneff en nombre de la propietaria de Snapchat, Snap, se señaló que el chatbot es una herramienta opcional diseñada con un enfoque en la seguridad y la privacidad. Además, los padres pueden monitorear si los adolescentes están utilizando la aplicación y cuándo lo hacen a través del Centro Familiar de la aplicación.

Las revisiones de Common Sense de los servicios de inteligencia artificial fueron realizadas por un grupo de expertos, entre los que se incluyen Michael Preston, director de un laboratorio de innovación e investigación de la productora de Sesame Street, Sesame Workshop; Margaret Mitchell, investigadora de la startup Hugging Face, quien previamente co-lideró la investigación ética sobre IA en Google; y Tracy Pizzo Frey, quien anteriormente trabajó en IA responsable en Google Cloud.

Chatbots e IA para niños con buena puntuación

Para identificar chatbots e inteligencia artificial (IA) mejor puntuados y adecuados para niños, es crucial buscar aquellos que han sido diseñados teniendo en cuenta la seguridad, la privacidad y el contenido apropiado para la edad. Aunque no tengo acceso a bases de datos actualizadas en tiempo real, puedo proporcionar algunos criterios generales y ejemplos basados en información disponible hasta abril de 2023:

1. Controles Parentales y Configuraciones de Privacidad: Los mejores chatbots para niños suelen tener sólidas configuraciones de privacidad y controles parentales, permitiendo a los padres supervisar y regular el uso.
2. Contenido Apropiado para la Edad: Deben ser capaces de mantener conversaciones adecuadas para la edad del niño, evitando temas sensibles o inapropiados.
3. Educación y Aprendizaje: Algunos chatbots están diseñados específicamente para fines educativos, ayudando a los niños con tareas escolares, idiomas o habilidades de programación.
4. Interactividad y Participación: Los mejores chatbots para niños suelen ser interactivos y atractivos, manteniendo el interés de los niños mientras aprenden o se entretienen.
5. Reputación y Reseñas: Buscar chatbots que han sido bien recibidos por organizaciones de confianza como Common Sense Media, que evalúa aplicaciones y tecnología para niños.

Algunos ejemplos que podrían haber sido bien valorados hasta mi última actualización incluyen:

• Moose Math: Aunque no es un chatbot en el sentido tradicional, es una aplicación educativa que enseña matemáticas a los niños de manera interactiva y lúdica.
• Duolingo: Conocido por su enfoque en el aprendizaje de idiomas, Duolingo ofrece una interfaz amigable para niños y puede incluir elementos de chatbot en su metodología de enseñanza.
• CodeMonkey: Este es un juego interactivo que enseña programación a los niños de manera divertida y accesible, utilizando elementos de chatbot para guiar y enseñar.

Es importante mantenerse actualizado con las últimas reseñas y recomendaciones, ya que el campo de la IA y los chatbots está en constante evolución.

¿Tienes conocimiento si tus hijos están utilizando ChatPT?

Celeste Kidd, líder de un laboratorio de investigación en inteligencia artificial en la Universidad de Berkeley, sostiene que abordar con su hija el funcionamiento y las limitaciones de la IA, como ChatGPT, puede ser beneficioso. Ella señala con inquietud los resultados de una encuesta de Common Sense, publicada en mayo, que revela que la mayoría de los padres desconoce el uso de ChatGPT por parte de sus hijos, considerando esto como motivo de preocupación. Kidd sugiere que la IA podría estar moldeando la percepción del mundo de los niños sin el conocimiento de sus padres.

Especialmente preocupantes para Kidd son los posibles efectos a largo plazo de la IA generadora de imágenes como Dall-E 2. Advierte que si un niño genera imágenes de médicos y criminales, y la IA amplifica los prejuicios representando estereotipos, esto podría influir en los niños de manera más significativa que en los adultos.

Josh Golin, director ejecutivo de FairPlay, una organización de defensa que aboga por la legislación para proteger a los jóvenes, como la Ley de Seguridad Infantil en Internet, destaca que las nuevas calificaciones de Common Sense son una valiosa herramienta para los padres. Expresa que, a partir de la experiencia de la incapacidad para regular adecuadamente las redes sociales, se ha aprendido que los diseñadores de estos productos a menudo priorizan la monetización sobre el bienestar de la sociedad y de los niños.

Fuente:  https://es.wired.com/