Otra semana más he estado en Cruce de cables (RNE), y en esta ocasión David Sierra y yo hemos aprovechado para hablar de una ley aprobada en el estado de California que prohibe la fabricación, publicidad y venta de juguetes que usen un chatbot para conversar con sus usuarios.
- Peluches con IA en cuarentena [18:35]
Es una enmienda aprobada el mes pasado a la ley SB 867, que es la que regula «la venta, fabricación y el intercambio de juguetes en el estado y prohíbe la fabricación, la venta o el intercambio, la posesión con intención de vender o intercambiar, así como la exposición u oferta de venta o intercambio a un minorista de cualquier juguete que esté contaminado con una sustancia tóxica.»
La ley en cuestión ya decía que si un juguete incorporaba un chatbot tenía que incorporar un aviso claro y bien visible en el que se indicara que el chatbot en cuestión es una creación artificial y no un ser humano. Pero ahora han prohibido la fabricación, venta e intercambio, exposición, etc, de este tipo de productos hasta el 1 de enero de 2031.
Yo no soy mucho de prohibir, pero en este caso estoy bastante de acuerdo. Siempre que sirva para que los padres se tomen el tiempo para explicarle a sus hijos que esos juguetes no son personas reales; que si tienen algún tipo de problemas acudan a ellos y no al juguete. Como siempre digo, la educación es fundamental en el uso de las mal llamadas nuevas tecnologías. Mal llamadas porque de nuevas cada vez tienen menos.
Y es que un estudio hecho en California y que en buena medida es responable de la aprobación de esta enmienda dice que como un 27 % de las respuestas que daban este tipo de juguetes eran inapropiadas, incluyendo menciones a autolesiones, drogas y conductas de riesgo.
Y eso puede incluir preguntas sobre el suicidio. No hay que olvidar que hace unos meses Sam Altman de OpenAI decía que más de un millón de personas a la semana hablaban de suicidio con ChatGPT. Y eso es aterrador.
Por ahora, hasta dónde yo sé, California es el único lugar en el que se ha tomado una decisión de este tipo. Pero puede servir de ejemplo para que en otros lugares, como por ejemplo en la Unión Europea, se haga algo al respecto.
Relacionado,
- Cruce de cables: La evolución de ChatGPT, la IA generativa más popular, en los últimos dos años
- Cruce de cables: la primera Ley de inteligencia artificial
- Cruce de cables: ¿Puede ChatGPT haber superado ya el Test de Turing?
- Cruce de cables: Los candidatos a los Premios IA Darwin 2025, premios a los despropósitos de la inteligencia artificial
- Cruce de cables: OpenEuroLLM, el gran modelo europeo de IA en busca de la sobernía digital
- Cruce de cables: La nueva ley italiana sobre inteligencia artificial
- Cruce de cables: IA que se desmandan (o no)
