Acceso usuarios
José Juan Castelló Pastor
En los últimos años, el uso de la inteligencia artificial para la moderación de contenidos se ha convertido en una práctica habitual entre las grandes plataformas en línea y buscadores. Estos sofisticados sistemas algorítmicos desempeñan funciones esenciales al detectar, restringir y eliminar con celeridad contenidos considerados ilícitos (o incompatibles con las condiciones generales) en la red. Esta creciente utilización de la inteligencia artificial responde al exponencial incremento del volumen de datos y al ritmo acelerado de creación y difusión de contenidos en internet. Sin embargo, su aplicación requiere ser tratada con cautela porque puede conducir a resultados equívocos con el consiguiente impacto negativo en los derechos y libertades constitucionalmente protegidos de los usuarios digitales. Un desafío que puede verse agravado aún más por la necesidad de estos oligarcas tecnológicos de dirigir sus esfuerzos en atenuar los “contenidos incorrectos o engañosos, incluida la desinformación” por el riesgo sistémico relacionado con sus servicios.
In recent years, the use of artificial intelligence for content moderation has become a prevalent practice among major online platforms and search engines. These sophisticated algorithmic systems perform vital functions, namely the rapid detection, restriction and removal of content deemed illegal (or otherwise incompatible with the terms and conditions) on the web. This increasing utilization of artificial intelligence is a response to the exponential growth in the volume of data and the volume and the accelerated pace of content creation and dissemination on the internet. However, its implementation requires caution to avoid misleading results and the consequent negative impact on the constitutionally protected rights and freedoms of digital users. This challenge may be further exacerbated by the need for these technological oligarchs to direct their efforts at mitigating “incorrect or misleading content, including misinformation” due to the systemic risk associated with their services.
