La industria de la tecnología ocupa un lugar central en la Corte Suprema esta semana, donde los jueces están considerando dos casos que podrían cambiar profundamente el funcionamiento de Internet. Ambos casos abordan la cuestión de la responsabilidad de si las plataformas tecnológicas son responsables del contenido dañino que alojan y, en ocasiones, promueven algorítmicamente.
Durante los argumentos orales del martes, el juez de la Corte Suprema, Neil Gorsuch, reflexionó sobre lo que significa la última innovación algorítmica para conquistar el mundo tecnológico: IA generativa que puede hacer recomendaciones a las personas. Incluye chatbots conversacionales como ChatGPT y el nuevo chatbot Bing de Microsoft.
También: ¿Qué es Chat GPT? Todo lo que necesitas saber
El problema surgió durante los argumentos orales en Gonzalez v. Google, que pregunta específicamente si las plataformas como Youtube, TikTok o Google Search pueden ser consideradas responsables de las recomendaciones específicas que ofrecen sus algoritmos. El caso fue iniciado por los familiares de la estadounidense Nohemi González, de 23 años, quien fue asesinada en París en 2015 cuando tres terroristas del ISIS abrieron fuego contra una multitud de comensales.
Los familiares de González afirman que Google, propietario de YouTube, permitió a sabiendas que ISIS publicara videos radicalizadores en YouTube, incitando a la violencia y reclutando posibles seguidores. Además de permitir que se publiquen los videos, la denuncia alega que Google afirmativamente “sugirió videos de ISIS a los usuarios” a través de su algoritmo de recomendación.
El caso se reduce a si las recomendaciones algorítmicas, como YouTube que sugiere qué ver a continuación o ChatGPT que le dice a dónde ir de vacaciones, están protegidas por el 1996 bajo la Sección 230 de la Ley de Telecomunicaciones. la ley exime a las plataformas en línea de responsabilidad por los contenidos publicados por terceros.
También: El chatbot AI de Bing tiene un nuevo límite de sesión de chat nuevamente
Aunque el caso se trata de propuestas de redes sociales, Gorsuch vinculó la discusión a la inteligencia artificial generativa, según el Washington Post. Como informa Will Oremus del Post, Gorsuch ha sugerido que la inteligencia artificial generativa no puede protegerse bajo la Sección 230.
“La inteligencia artificial crea poesía”, dijo Gorsuch. “Hoy es hacer argumentos que serán contenido que irá más allá de seleccionar, seleccionar, analizar o digerir contenido. Y no está protegido. Supongamos que eso es cierto. La pregunta entonces es, ¿qué hacemos con las recomendaciones?
Esto podría tener serias implicaciones para empresas como Google y Microsoft, ya que intentan integrar las recomendaciones de chatbots conversacionales en sus plataformas de motores de búsqueda.
Por supuesto, Internet ha cambiado drásticamente desde que se redactó la Sección 230 en 1996. Los legisladores han luchado en los últimos años sobre cómo enmendar la ley. Si bien los sitios de redes sociales han sido criticados en gran medida por probar los límites de la ley, la integración de las recomendaciones de chatbot en los motores de búsqueda seguramente generará más preguntas sobre responsabilidad.