La Unión Europea da el primer paso para regular la IA

La brutal irrupción de aplicaciones basadas en Inteligencia Artificial ha revolucionado el sector de la tecnología en general. Propuestas como ChatGPT, Bing Chat o el reciente Google Bard siguen asombrando al mundo por sus inteligentes capacidades.

Sin embargo, algunas de estas IA están encontrando escollos en el camino, sobre todo a nivel de organismos reguladores que ven en ellas un peligro latente para el usuario. Tenemos el ejemplo de Italia que prohibió temporalmente ChatGPT, o nuestro país que también se lo está planteando. A nivel europeo, destacamos el primer marco regulatorio, nacido esta misma semana.

La AI Act: prohibiciones y más transparencia

Tal y como indican desde el Parlamento Europeo, la Artificial Intelligence Act es el primer grupo de leyes enfocadas en la regulación de la IA. Ha sido aprobado por mayoría con 84 votos a favor, siete en contra y hasta 12 abstenciones.

Uno de los cambios más significativos es la prohibición del reconocimiento facial, este tipo de identificación biométrica no se permite para crear bases de datos con rostros.

Por otro lado, tampoco se permite el uso de software de reconocimiento de emociones, así como los sistemas de puntuación social (todo aquel que clasifica a los ciudadanos por estatus social, personal o socio-económico). Los algoritmos basados en IA también estarán vigilados en áreas de alto riesgo como la política, salud o educación.

El foco también está en ChatGPT, al que piden unos requisitos de transparencia. Todos los chatbots deberán ser desarrollados para no mostrar contenido ilegal, además de ser cuidadosos con la proveniencia de los datos (que tengan contenido protegido por derechos de autor).

Google Bard no quiere problemas con la UE

Por otro lado, tampoco se permite el uso de software de reconocimiento de emociones, así como los sistemas de puntuación social (todo aquel que clasifica a los ciudadanos por estatus social, personal o socio-económico). Los algoritmos basados en IA también estarán vigilados en áreas de alto riesgo como la política, salud o educación.

El foco también está en ChatGPT, al que piden unos requisitos de transparencia. Todos los chatbots deberán ser desarrollados para no mostrar contenido ilegal, además de ser cuidadosos con la proveniencia de los datos (que tengan contenido protegido por derechos de autor).