Acceso usuarios
Madrid, España
La integración de funcionalidades de IA (transcripción de audios y llamadas telefónicas, generación de textos e imágenes, chatbots) en los teléfonos móviles inteligentes ("smartphones") o en los televisores conectados a Internet (Smart TV) acercará esta tecnología a millones de usuarios y pondrá en sus manos una herramienta digital para generar productos audiovisuales. A su vez, la IA integrada en el "smartphone" permite al usuario (implementador) generar imágenes falsas o "deepfakes", o infringir los derechos de autor. La IA integrada recopila datos personales del usuario (voz, textos, imágenes, vídeos) y puede analizarlos y elaborar predicciones y, aunque está prohibido, podría manipular su comportamiento. Estas funcionalidades operan desde la Nube y, probablemente, las plataformas (proveedores) usen, de una manera u otra, los datos personales para entrenar de modo no informado a su modelo de IA. La Ley de Inteligencia Artificial (LIA o Act AI), aprobada el 1 de agosto de 2024, resuelve el problema de la privacidad remitiendo al Reglamento General de Protección de Datos (RGPD) pero el presente trabajo se pregunta si la IA multimodal integrada en el "smartphone" o la Smart TV debería ser considerada de alto riesgo (artículo 6.3 de la AI Act) o de riesgo sistémico (artículo 51).
The integration of AI functionalities (transcription of audio and phone calls, generation of texts and images, chatbots) in smartphones or in televisions connected to the Internet (Smart TV) will bring this technology closer to millions of users and will put in their hands a digital tool to generate audiovisual products. In turn, the AI integrated into the smartphone allows the user (implementer) to generate fake images or deepfakes, or to infringe copyright. The integrated AI collects personal data from the user (voice, texts, images, videos) and can analyze them and make predictions and, although it is prohibited, it could manipulate their behavior. These functionalities operate from the Cloud and, probably, the platforms (providers) use, in one way or another, the personal data to train their AI model in an uninformed way. The Artificial Intelligence Act (LIA), passed on August 1, 2024, solves the privacy problem by referring to the General Data Protection Regulation (GDPR), but this paper questions whether multimodal AI integrated into smartphones or Smart TVs should be considered high risk (Article 6.3 of the AI Act) or systemic risk (Article 51).
