Al principio, John Pasmore estaba entusiasmado con ChatGPT.
El fundador en serie había estado en el espacio de la inteligencia artificial desde al menos 2008. Recordó los días en que los expertos declararon que pasarían décadas antes de que el mundo viera algo parecido a un ChatGPT. Avance rápido: ese día ya ha llegado.
Pero hay un problema.
ChatGPT, una de las herramientas de inteligencia artificial más poderosas del mundo, lucha con los matices culturales. Eso es bastante molesto para una persona negra como Pasmore. De hecho, este descuido ha provocado la ira de muchos negros que ya no se veían representados adecuadamente en los algoritmos promocionados para algún día salvar al mundo. El ChatGPT actual ofrece respuestas demasiado generalizadas para preguntas específicas que atienden a determinadas comunidades, ya que su formación parece eurocéntrica y occidental en su sesgo. Esto no es único: la mayoría de los modelos de IA no se crean pensando en las personas de color. Pero muchos fundadores negros se muestran firmes en no quedarse atrás.
El año pasado aparecieron numerosos chatbots de propiedad de negros y versiones de ChatGPT para atender específicamente a las comunidades negras y de color, ya que los fundadores negros, como Pasmore, buscan capitalizar el desliz cultural de OpenAI.
“Si le preguntas al modelo en general quiénes son algunos de los artistas más importantes de nuestra cultura, te dará Leonardo da Vinci y Miguel Ángel”, dijo Pasmore sobre ChatGPT. “No va a decir nada sobre India o China, África o incluso los afroamericanos, porque tiene un sesgo que se centra en la trayectoria europea de la historia”.
Entonces Pasmore lanzó Latimer.AI, un modelo de lenguaje para dar respuestas diseñadas para reflejar las experiencias de las personas negras y de color. Erin Reddick comenzó ChatBlackGPT, un chatbot también centrado en las comunidades negras y marrones. A nivel mundial está la empresa con sede en Canadá Bujía, que es una alternativa a ChatGPT para estudiantes negros y morenos. África también está experimentando una gran innovación en este espacio, con la aparición de modelos lingüísticos para atender a los más de 2.000 idiomas y dialectos hablados en el continente que los modelos occidentales de IA todavía pasan por alto.
“Somos los guardianes de nuestras propias historias y experiencias”, dijo a TechCrunch Tamar Huggins, fundadora de Spark Plug. “Necesitamos crear sistemas e infraestructura que sean de nuestra propiedad y que controlemos, para garantizar que nuestros datos sigan siendo nuestros”.
La IA personalizada está aquí
Los modelos de IA generalizados no pueden capturar fácilmente la experiencia afroamericana porque muchos aspectos de esa cultura no están en línea. Los algoritmos actuales buscan fuentes en Internet, pero muchas tradiciones y dialectos dentro de la cultura afroamericana se transmiten oralmente o de primera mano, lo que deja un vacío en lo que significa un El modelo de IA lo entenderá sobre la comunidad versus los matices de lo que realmente sucede.
Esta es una de las razones por las que Pasmore intentó utilizar fuentes como Amsterdam News, uno de los periódicos negros más antiguos de EE. UU., mientras creaba Latimer.AI, centrándose en la precisión en lugar de la capacitación sobre datos generados por los usuarios extraídos de Internet. Al hacer esto, comenzó a ver diferencias entre su modelo y el de ChatGPT.
Recordó que una vez la gente le preguntó a ChatGPT sobre el Ferrocarril Subterráneo, el pasaje que los afroamericanos esclavizados usaban para viajar a los estados del norte para escapar de la esclavitud. El modelo de ChatGPT mencionaría a los esclavos fugitivos, mientras que Latimer.AI ajustó la redacción, refiriéndose a los “esclavizados” o “personas que buscan la libertad”, lo que está más en línea con lo que se ha vuelto más sintonizado socialmente al hablar de los anteriormente esclavizados.
“Hay algunas diferencias sutiles en el lenguaje que utiliza el modelo debido a los datos de entrenamiento, y el modelo en sí solo piensa en las personas negras y de color”, dijo Pasmore.
Mientras tanto, ChatBlackGPT de Erin Reddick todavía está en modo beta y planea lanzarse el 16 de junio. Su producto funciona como suena: un chatbot donde uno puede hacer preguntas y recibir respuestas personalizadas sobre la cultura negra. “El núcleo de lo que estamos haciendo está verdaderamente impulsado por la comunidad”, dijo.
Ella está en el proceso de desarrollar la herramienta, preguntando a los usuarios cómo quieren que se vea y cómo quieren que actúe. También se está asociando con instituciones educativas como colegios y universidades históricamente negros (HBCU) para trabajar con los estudiantes para enseñar y hacer que ayuden a entrenar su algoritmo. Dijo que quiere “crear una oportunidad de aprendizaje integral para que las personas negras y de color tengan un espacio seguro para explorar la IA”.
“El algoritmo prioriza las fuentes de información de los negros para que pueda hablar de un conjunto de conocimientos con el que se puede identificar más inmediatamente que la experiencia promedio”, dijo a TechCrunch, y agregó que, al igual que el producto de Pasmore, técnicamente cualquiera puede usarlo.
Tamar Huggins construyó Bujía para ofrecer también una experiencia más personalizada a las comunidades negras y marrones. Su plataforma traduce material educativo al inglés vernáculo afroamericano (AAVE), el etnolecto asociado con las comunidades afroamericanas. Ese dialecto tradicionalmente se transmite oralmente y de primera mano en lugar de estudiarse y escribirse como el inglés estándar, lo que significa la precisión de un modelo (o persona) de IA que lo aprende. solo internet flaqueará en precisión. Capturar AAVE con precisión es importante, no solo para que el chatbot responda usándolo, sino también para que los estudiantes puedan escribir más fácilmente indicaciones que harán que la IA les devuelva los resultados que necesitan.
“Al crear contenido que resuene entre los estudiantes negros, nos aseguramos de que se vean a sí mismos en la educación, lo cual es fundamental para un alto compromiso y éxito académico”, dijo Huggins. “Cuando se les da la oportunidad, las grandes tecnológicas casi siempre priorizarán las ganancias sobre las personas. Así que creamos nuestro propio carril dentro del espacio de la IA”.
Huggins entrenó su algoritmo en los escritos de autores negros del Renacimiento de Harlem, autores negros en educación e incluso la verborrea de su hija adolescente para capturar la esencia de AAVE. Huggins también trabaja con educadores, lingüistas y expertos culturales para revisar y validar los resultados de Spark Plug. Su producto tampoco está construido sobre ChatGPT. Es su propio modelo, lo que significa que los usuarios controlan sus datos.
Pasmore también tiene planes de construir un modelo fundamental independiente para su Latimer.AI. En este momento, está trabajando para expandir su empresa a las escuelas, especialmente a las HBCU, a medida que más estudiantes recurren a ChatGPT todos los días para completar su trabajo.
“Este es un mejor compañero de IA para gran parte del trabajo que deben realizar los niños negros y morenos”, dijo.
Uniendo la diáspora
África se ve ignorada en el actual movimiento de IA. Por ejemplo, solo el 0,77% del total de revistas sobre IA del mundo provienen del África subsahariana, en comparación con el este de Asia y América del Norte con el 47,1% y el 11,6%, respectivamente, según un estudio de 2023. Informe del índice de inteligencia artificial. En cuanto a la población, en comparación con América del Norte, África constituye alrededor del 17% de la población mundial, en comparación con sólo el 7% de América del Norte. Cuando llega el momento de obtener información y expertos sobre IA, las probabilidades de que se utilicen investigaciones subsaharianas son bastante bajas, lo que podría afectar el desarrollo de herramientas globales de IA.
Si bien África está experimentando un gran desarrollo en la creación de modelos lingüísticos más inclusivos que sirvan mejor a la diáspora negra, en este momento, los modelos de inteligencia artificial actuales, desde ChatGPT hasta Gemini, no pueden admitir completamente los más de 2000 idiomas que se hablan en África.
Yinka Iyinolakan creada CDIAL.AI para abordar esto. CDIAL.AI es un chatbot que puede hablar y comprender casi todos los idiomas y dialectos africanos, con especial atención a los patrones de habla más que al texto.
Iyinolakan se hizo eco en TechCrunch del mismo sentimiento que muchos estadounidenses negros: que los modelos fundamentales de IA se extraen principalmente de datos de Internet y de los idiomas más hablados. Al igual que su cultura de progenie afroamericana, muchas lenguas y tradiciones africanas están ausentes de Internet, ya que es una cultura históricamente comunicada de forma oral y no escrita. Esto significa que los modelos de IA no tienen suficiente información sobre las culturas africanas para entrenarse, lo que deja una brecha de conocimiento.
Para CDIAL.AI, Iyinolakan reunió a más de 1200 hablantes nativos y lingüistas de toda África para recopilar conocimientos y perspectivas para construir lo que él llama “el primer modelo de lenguaje grande multilingüe del mundo en el que la voz es la primera”. La compañía planea expandirse en los próximos 12 meses para incluir aún más idiomas y crear un modelo que admita texto, voces e imágenes.
No está solo aquí. Google otorgó recientemente a Jacaranda Health, con sede en Kenia, una subvención de 1,4 millones de dólares para desarrollar sus servicios de aprendizaje automático para que pueda trabajar en más idiomas africanos e Intron Health recaudó recientemente varios millones de dólares para ampliar su reconocimiento clínico del habla para los más de 200 acentos que se hablan en toda África. .
“Silicon Valley quiere creer que es el principio y el fin de la inteligencia artificial”, dijo Iyinolakan. “Pero para ‘conseguir’ la inteligencia artificial, que es lo que todas las empresas tienen como estrella polar, necesitan incluir un tercio del conocimiento mundial”.
Avanzando
Adoptar chatbots de IA no es la única innovación que los fundadores negros están tratando de abordar.
Steve Jones y DeSean Brown fundaron la empresa pocstock crear imágenes de archivo de personas de color ya que, durante décadas, ha habido una escasez de minorías representadas en imágenes de archivo. Esta es una de las razones por las que los modelos actuales escupen principalmente imágenes de personas blancas cuando los usuarios les piden que generen fotografías de cualquier cosa, desde médicos hasta cantantes pop.
“Todas las plataformas y herramientas deben capacitarse a partir de datos completos, racialmente inclusivos y culturalmente precisos, o de lo contrario, [perpetuate] los problemas de sesgo que enfrenta actualmente nuestra sociedad en general”, dijo Jones a TechCrunch. Para abordar esto, pocstock ha pasado los últimos cinco años recopilando datos sobre diversidad y creando su propio sistema de etiquetado visual que contribuye a una base de datos que las empresas utilizan para ayudar a entrenar sus modelos de IA para que puedan producir imágenes más inclusivas.
Sin embargo, se están produciendo algunas mejoras. Jones dijo que ha notado que las empresas de imágenes de archivo más grandes que se abastecen de empresas de inteligencia artificial están dando más pasos para aumentar la diversidad de su contenido. Pasmore también ve un futuro más brillante por delante, diciendo que la IA personalizada es el futuro de todos modos y que cuanto más interactúen los modelos de IA con sus usuarios, más comprenderá los deseos y necesidades de una persona específica, “lo que, creo, elimina muchos prejuicios”. .”
Incluso podría haber espacio para modelos de IA más específicos de la cultura en el futuro, especialmente a medida que siguen apareciendo más alternativas de propiedad de negros. Después de todo, el mundo es vasto y tiene más matices: no tiene sentido tratar de encajarlo en una caja negra.
“Mi esperanza es que más fundadores de color se involucren en el desarrollo de sus propias plataformas de inteligencia artificial o en la creación de nuevos empleos relacionados con la inteligencia artificial lo antes posible en este próximo auge económico”, dijo Jones. “La IA va a crear trillonarios, y me encantaría ver a personas de color asumir la posición de productores y no sólo de consumidores”.
Este artículo fue actualizado para reflejar que Spark Plug utiliza sus propios modelos fundamentales y una descripción de Latimer.AI. También actualizó que DeSean Brown ayudó a cofundar pocstock.