OpenAI acaba de describir algunos problemas conocidos con ChatGPT y tiene algunas implicaciones importantes.
En una publicación de blog, OpenAI expuso ideas sobre cómo debería comportarse la IA y quién debería decidir cómo se comporta. También revelaron más detalles sobre cómo se entrena ChatGPT.
Una cosa queda muy clara en el post.
Incluso los creadores de la tecnología de IA se están quedando atrás cuando se trata de crear una IA más receptiva. Y la publicación sugiere que pronto podemos estar a cargo de los resultados de la IA.
En el episodio 35 de Marketing AI Show, el fundador/CEO del Marketing AI Institute, Paul Retzer, detalla lo que está pasando aquí.
1. Esto fue en parte un movimiento de relaciones públicas.
Esta posición tenía un claro carácter estratégico. Es probable que OpenAI se entrometa en temas de seguridad de IA, dice Roetzer.
“Deberían haber tratado de controlar la historia”.
No hay duda de que OpenAI es difícil resolver problemas de cómo debe comportarse la IA. Pero también está claro que no tienen ni remotamente todas las respuestas sobre cómo deberían comportarse estas tecnologías y quién debería decidir eso.
2. El problema del sesgo en la IA no es fácil de resolver.
En este momento hay muchas decisiones humanas que intervienen en lo que una herramienta como ChatGPT le mostrará y no le mostrará. Eso inyecta un sesgo inherente en el proceso, del que OpenAI parece dolorosamente consciente, y se está aprovechando del calor público.
No hay una respuesta fácil aquí. La compañía describe varios pasos que podría tomar para hacer que estos sistemas sean más responsables, incluida la solicitud de más comentarios públicos sobre cómo funciona la herramienta. Pero incluso eso no elimina el sesgo.
“No hay una respuesta fácil aquí”, dice Retzer.
3. Pero la solución propuesta puede complicar la situación.
Para resolver el problema, OpenAI sugiere una posible solución que tiene implicaciones de gran alcance.
Creemos que la IA debe ser una herramienta útil para personas individuales y, por lo tanto, ser personalizable por cada usuario dentro de los límites establecidos por la sociedad. Por lo tanto, estamos desarrollando una actualización de ChatGPT que permitirá a los usuarios personalizar fácilmente su comportamiento.
Esto significaría permitir resultados del sistema con los que otras personas (incluidos nosotros) podrían estar totalmente en desacuerdo. Será difícil establecer el equilibrio correcto aquí. llevar la personalización al extremo correrá el riesgo de usos maliciosos de nuestra tecnología e IA aduladoras que reforzarán sin pensar las creencias existentes de las personas.
“Están diciendo que en lugar de que intentemos crear un sistema único que todos puedan usar, en realidad vamos a eliminar muchas de las barreras de seguridad de esto”, dice Retzer.
De esa manera, las personas pueden personalizar sus puntos de control según sus preferencias.
Esta es sin duda una posible solución. Pero se complica muy rápido cuando comenzamos a ver ChatGPT completamente ilimitado en la naturaleza. También significa que pronto cada uno de nosotros será responsable de controlar los resultados de la herramienta, en lugar de OpenAI.
Como resultado, Retzer imagina que los gobiernos comenzarán a involucrarse aquí.
4. También es importante recordar la verdadera misión de OpenAI.
La mayoría de los líderes empresariales y de marketing no se dan cuenta de que la verdadera misión de OpenAI es crear Inteligencia General Artificial (AGI). No se trata de crear herramientas divertidas como ChatGPT.
Eso significa que el objetivo es crear agentes generales de IA que actúen como humanos y puedan hacer muchas cosas similares a las de los humanos, no solo escribir una publicación de blog o responder una pregunta. Todos los principales laboratorios de investigación también están trabajando en este objetivo de una forma u otra.
En el proceso, los especialistas en marketing y los empresarios obtenemos algunas herramientas interesantes para usar en nuestro negocio. Pero ese no es el objetivo de la empresa. El punto es crear una inteligencia similar a la humana. Los líderes deberían filtrar las noticias sobre OpenAI a través de esa lente.
Cómo adelantarse a la curva de la IA
Puede adelantarse a la disrupción impulsada por la IA, y rápido, con nosotros Una serie de cursos para pilotos de marketing de IAUna serie de 17 cursos a pedido diseñados como un viaje de aprendizaje paso a paso para que los profesionales del marketing y los líderes empresariales aumenten la productividad y la eficiencia a través de la IA.
La serie de cursos contiene más de 7 horas de capacitación, docenas de casos de uso y proveedores de IA, una colección de plantillas, cuestionarios del curso, un examen final y un certificado profesional al finalizar.
Después de adoptar Piloting AI for Marketers, podrá:
- Comprenda cómo avanzar en su carrera y transformar su negocio con IA.
- Experimente más de 100 casos de uso de IA en marketing y aprenda a identificar y priorizar sus propios casos de uso.
- Descubra más de 70 proveedores de IA en varias categorías de marketing que puede comenzar a probar hoy.
