El presidente francés hizo estos comentarios mientras el país prepara una carta para proteger a sus ciudadanos de las amenazas de la inteligencia artificial.
El presidente francés, Emmanuel Macron, ha afirmado este lunes que la inteligencia artificial debe prohibirse allí donde suponga un riesgo para la salud mental de los niños.
PUBLICIDAD
PUBLICIDAD
Macron, que también está impulsando en Francia la prohibición de ciertas redes sociales para los menores de 15 años, señaló: "Si existe un riesgo para los niños con determinados usos de la IA, entonces debe prohibirse".
Hizo estas declaraciones en una entrevista con el diario francés 'Les Echos', en vísperas de la adopción de una carta sobre este asunto en el Foro de París por la Paz (Paris Peace Forum).
"Que sea IA no significa que deba ser 'el Lejano Oeste'", dijo Macron, y añadió que la IA debe prohibirse cuando "amenace" la "salud mental o el cerebro" de los niños.
Un comité de expertos tiene previsto presentarle el martes recomendaciones sobre la protección frente a la IA, un ámbito menos explorado que el impacto de las redes sociales.
A continuación, los laboratorios de investigación se comprometerán, en el marco de una carta, a varias medidas como evaluaciones independientes de los sistemas de IA generativa que se comercialicen, así como al acceso a los datos de sus modelos.
Esta carta, que "pretende alimentar los debates legislativos nacionales y europeos", reunirá en particular a los gigantes estadounidenses OpenAI y Anthropic, según la oficina de Macron.
Las empresas aceptarán "el principio de una preauditoría y una precertificación, con un examen previo de los modelos antes de ponerlos en manos de los niños", señaló Macron.
"Vamos a hacer avanzar la regulación europea y a presionar para que estadounidenses, canadienses y otros hagan lo mismo que nosotros. Estamos en proceso de crear los inicios de una regulación de la IA de frontera", añadió.
Macron afirmó que el objetivo era crear "un marco que tenga en cuenta los peligros, que se dividen en tres categorías: nuestros niños, la seguridad democrática y las grandes cuestiones de seguridad nacional".
Macron también ha reunido en una videoconferencia a alrededor de 50 jefes de Estado y de Gobierno, representantes de organizaciones internacionales, empresas, investigadores y laboratorios para debatir los riesgos que plantea la IA para la seguridad colectiva.
"El diagnóstico es compartido. Debemos actuar juntos", concluyó en X.
En la videoconferencia participaron los primeros ministros británico, canadiense, noruego, neerlandés y japonés, así como los directores ejecutivos de OpenAI, Anthropic, Mistral y Microsoft.
El anuncio llega en un momento en que los enfoques regionales sobre la regulación de la IA divergen de forma acusada, especialmente entre Estados Unidos, la Unión Europea (UE) y China.
La UE celebrará el viernes en Dublín su primera cumbre de ministros nacionales encargados de la IA, bajo la presidencia rotatoria irlandesa de la UE.
La UE confía en que la reunión ayude a los gobiernos nacionales a acordar una nueva hoja de ruta para regular la inteligencia artificial y relanzar el débil crecimiento económico del bloque.
Al mismo tiempo, los líderes revisarán las salvaguardias puestas en marcha para proteger a la sociedad de las amenazas asociadas a esta tecnología, como la 'AI Act'.