Ars Technica
Uno de los efectos secundarios de las máquinas generadoras de IA es el contenido ilimitado. Editor de la popular publicación de ciencia ficción Clarkesworld Magazine el lunes Anunciado que ha cerrado temporalmente las presentaciones de historias debido al aumento masivo de historias de máquinas enviadas a la publicación.
en el gráfico compartido en TwitterEl editor de Clarkesworld, Neil Clarke, ha contado la cantidad de escritores prohibidos que envían historias plagiadas o hechas a máquina. Los números fueron 500 en febrero, por debajo de poco más de 100 en enero, y alrededor de 25 por debajo de la línea de base en octubre de 2022. El aumento de envíos prohibidos coincide aproximadamente con el lanzamiento de ChatGPT el 30 de noviembre de 2022.
Los modelos de idiomas grandes (LLM) como ChatGPT se han entrenado en millones de libros y sitios web y pueden crear rápidamente historias originales. Sin embargo, no funcionan por sí solos, y un ser humano debe guiar su salida con un aviso, que el modelo de IA intentará completar automáticamente.
Desde 2006, Clarkesworld ha publicado autores populares de ciencia ficción y ha ganado varios premios Hugo. Entre las publicaciones de ciencia ficción, es conocido por su proceso de envío abierto y normalmente paga 12 centavos por palabra. En su página de presentación, la publicación señala: “En este momento, no estamos considerando historias escritas, coescritas o impulsadas por IA”. Sin embargo, eso no ha impedido que la cantidad de solicitudes se dispare, lo que Clarke atribuye principalmente a esquemas para hacerse rico rápidamente.
“Los alborotadores están fuera de la comunidad SF/F”. escribió Clark tuiteó: Impulsado principalmente por expertos en ‘ajetreo secundario’ que reclaman dinero fácil con ChatGPT. Lo conducen y merecen el desprecio que se muestra a los programadores de IA”.
En el momento de la publicación, una búsqueda rápida en YouTube de los términos “hacerse rico con ChatGPT” y “ganar dinero escribiendo con ChatGPT” arrojó muchos resultados, aunque no descubrimos un video que apuntara específicamente a Clarkesworld.
Ars Technica
El problema del contenido creado por IA no es exclusivo de Clarkesworld. El martes, Reuters informó sobre el aumento de los libros electrónicos impulsados por IA en Amazon. Reuters encontró más de 200 libros electrónicos en la tienda Kindle de Amazon que incluyen a ChatGPT como autor o coautor.
La afluencia de contenido generado por IA ha puesto a Clarkesworld en la incómoda posición de tratar de mantener el listón lo suficientemente alto como para mantener alejados a los spammers, pero no tanto como para desalentar a los escritores desconocidos de ciertas partes del mundo o a los escritores que podrían ser injustos. objeto de prohibiciones basadas en la ubicación geográfica. En serie de tuitsClark explicó su situación.
No tenemos una solución al problema. Tenemos algunas ideas para minimizarlo, pero el problema no desaparece. Los detectores no son fiables. Demasiados autores legítimos se sacrifican para presentar una tarifa. Los envíos impresos no son viables para nosotros. Varias herramientas de autenticación de terceros son más caras de lo que pueden pagar las revistas y tienden a tener lagunas regionales. Aceptarlos es lo mismo que prohibir países enteros.
Podríamos implementar fácilmente un sistema que solo permitiera a los autores que nos habían enviado trabajos previamente. Prohibiría efectivamente a los nuevos autores, lo cual es inaceptable. Son una parte esencial de este ecosistema y de nuestro futuro.
Vale la pena repetir que, hasta el momento, las herramientas diseñadas para detectar texto escrito por LLM tienen tasas de precisión bajas (a menudo dan falsos positivos cuando se prueban con texto escrito por humanos), por lo que actualmente no son una solución viable. A pesar de estos problemas, Clark dice que la revista no cerrará y que las funciones se reanudarán en el futuro. Pero por ahora, el camino a seguir no está claro.
“No desaparecerá por sí solo y no tengo solución”, escribió Clark en su blog el miércoles pasado. “Me meto con algunos, pero este no es un juego de mole que cualquiera pueda ‘ganar'”. Lo mejor que podemos esperar es almacenar suficiente agua para mantenernos a flote”. Mientras tanto, Clark anima a aquellos que quieran apoyar la revista a suscribirse.