¿Pueden las empresas emergentes hacer que la IA sea ética y responsable?

La inteligencia artificial (IA) está de moda, pero también lo están las preocupaciones sobre su ética y uso responsable. Como ha dicho la UNESCO, los problemas de la IA provienen de quienes ayudaron a hacerla posible en primer lugar y de sus puntos de vista sobre la sociedad. Como resultado, todo, desde sexualizado, sesgado el contenido de cómo crea arte (mediante el uso de la fuerte influencia de los artistas existentes) está en debate. Afortunadamente, las empresas emergentes están trabajando arduamente para cambiar esta situación, y su propia esencia lo hace posible.

No se puede negar que estamos viviendo tiempos intrigantes que, para algunos, pueden resultar intimidantes, especialmente cuando incluso el CEO de OpenAI, Sam Altman, advierte de lo rápido que están cambiando las cosas. Hay puestos de trabajo en juego y dependemos demasiado de la tecnología que aún debe mejorarse. Por lo tanto, hay mucha presión y las empresas emergentes están trabajando arduamente para garantizar que la IA sea útil para la sociedad.

En cuanto a la ética, las empresas emergentes tienen un superpoder: la capacidad de priorizarla desde el principio. A diferencia de las grandes corporaciones que se quedan atrapadas en sus antiguas costumbres, las nuevas empresas son ágiles. Pueden incorporar consideraciones éticas en sus sistemas de inteligencia artificial desde el principio y han estado a la vanguardia en el desarrollo de directrices éticas y mejores prácticas que pueden dar forma a todo el sector.

Una de las cosas más frustrantes de la IA es, irónicamente, su toma de decisiones. Cualquiera que haya usado estas plataformas puede identificarse. Le pides a la IA que haga algo y, al observar los resultados, no tienes ni idea de cómo ni por qué llegó a esas conclusiones. Además, incluso grandes empresas como Microsoft y Google han advertido sobre la posibilidad de que la IA dependa de bases de datos defectuosas.

Por lo tanto, el escenario está preparado para el caos de la IA. Parece que necesitamos personas que trabajen duro para crear sistemas de IA que puedan ser explorados y explicados a la gente común. De hecho, incluso hay un término para ello: IA ética, y la lista se hace más larga cada día. Ahí es donde entran en juego las empresas emergentes, con la esperanza de salvar el día.

La idea es que estas startups trabajen con los sistemas de IA existentes, haciendo que ellos éticos, o cree productos que eliminen los prejuicios, la injusticia y la falta de ética que afectan a nuestra sociedad mediante la creación de cosas interesantes, como algoritmos de IA explicables y herramientas de visualización que nos permitan echar un vistazo detrás de la cortina de la IA. Así que ahora por fin podemos entender cómo se toman estas decisiones en materia de IA, y eso es una gran victoria para la transparencia y la confianza.

Uno de los problemas más importantes de la IA es el sesgo, sin embargo, empresas emergentes como Neuronas tienen la misión de detectar y abordar los sesgos en los algoritmos, los datos y los procesos de toma de decisiones de la IA. Neurons es una plataforma danesa de marketing de neurociencia y aprendizaje automático que utiliza la neurociencia para mejorar los productos, las marcas y las experiencias. El éxito de la startup es tan importante que incluso ha atraído a la ex primera ministra danesa, Helle Thorning-Schmidt, a unirse a la Consejo de Administración. Su presencia es vital para ayudar a tomar las decisiones correctas con las bases de datos correctas, que son esenciales para las nuevas empresas, pero a las que solo unas pocas tienen acceso.

Lo fascinante es que incluso quienes trabajan en el mundo de las empresas emergentes ya están advirtiendo a otros sobre el uso demasiado entusiasta de la IA, especialmente cuando no la entendemos completamente. Por lo tanto, lo mejor es que reduzcamos nuestra adicción. Por ejemplo, un experto en IA Lance Eliot nos advirtió recientemente que inclinarse demasiado por plataformas como ChatGPT es arriesgado. Después de todo, una plataforma de este tipo podría llegar a ser peligrosamente masiva por razones equivocadas. Así, por ejemplo, muchos fundadores de empresas emergentes necesitan saber cuáles son los usos prohibidos y los detalles más minuciosos que podrían impedir un uso exitoso y, lo que es más importante, ético de la IA.

Eso no quiere decir que las empresas emergentes no deban utilizar la IA, sino todo lo contrario. De hecho, muchas empresas emergentes utilizan la IA para salvar el mundo a su manera. No lo hacen solo con fines de lucro, sino que les impulsa el deseo de tener un impacto positivo en la sociedad y el medio ambiente. Desde el diagnóstico de la atención médica hasta la reducción de la pobreza, el monitoreo del cambio climático, la respuesta a los desastres y la mejora del acceso a la educación, las empresas emergentes utilizan la inteligencia artificial para abordar problemas del mundo real. Están demostrando que la IA puede ser una fuerza positiva, y eso es bastante sorprendente.

Uno de esos ejemplos es Pi cuantitativo, una startup alemana que se centra en proporcionar una plataforma en la que otras empresas y empresas puedan identificar y mitigar los riesgos relacionados con sus soluciones de inteligencia artificial, incluidos los éticos, comerciales y de reputación. Considéralo una auditoría de control de calidad de la IA. Como resultado, la empresa obtuvo fondos esenciales en 2022 para ayudar a expandir sus servicios.

Esfuerzos como QuantPI son esenciales y (afortunadamente) son cada vez más comunes. Podemos pensar en este esfuerzo como músicos que forman una banda, aportando habilidades únicas para crear algo increíble. Por ejemplo, las instituciones académicas son como las escuelas de música a las que acuden nuevas empresas para aprender nuevas técnicas y ampliar sus conocimientos. Al asociarse con estas instituciones, las empresas emergentes obtienen acceso a las últimas investigaciones y conocimientos académicos en materia de ética de la IA.

Luego, están las organizaciones sin fines de lucro, que podrían actuar como sellos discográficos con conciencia social. Se aseguran de que las empresas emergentes utilicen inteligencia artificial que aborde problemas del mundo real. Además, estas asociaciones proporcionan orientación sobre los marcos éticos, lo que garantiza que las canciones de IA que se reproducen sean pegadizas y responsables. Por último, hay líderes del sector que actúan como miembros experimentados de bandas que llevan un tiempo arrasando en la escena de la IA. Actúan como mentores de nuevas empresas. Es como una sesión improvisada en la que todos aportan su experiencia y afinan las melodías de la IA para lograr el máximo impacto ético.

Juntas, estas colaboraciones crean un ecosistema armonioso de IA ética. Al unir sus fuerzas, las empresas emergentes, las instituciones académicas, las organizaciones sin fines de lucro y los líderes del sector crean una sinfonía colectiva que eleva las prácticas éticas de la IA, fomenta la innovación y garantiza que la «música» de la IA que se reproduce esté en consonancia con las necesidades y los valores de la sociedad.

Las empresas emergentes están impulsando el movimiento en favor de una IA ética y responsable, y lo están haciendo mediante la creación de colaboraciones increíbles. Al igual que una banda en la que músicos talentosos se unen para crear música hermosa, las empresas emergentes se están asociando con instituciones académicas, organizaciones sin fines de lucro y líderes del sector para hacer realidad la inteligencia artificial ética. Es una colaboración que triunfa y demuestra que, cuando trabajamos juntos, podemos hacer que la IA cante en perfecta armonía con nuestros valores y aspiraciones.

‍

¿Quieres más contenido como este? ¡Suscríbase a nuestro boletín semanal gratuito! Se convertirá rápidamente en su ventanilla única de noticias sobre empresas emergentes.

Suscríbete aquí

‍