No preguntes qué pueden hacer las computadoras, pregúntate qué deberían hacer”.
Ese es el título del capítulo sobre IA y ética en un libro del que fui coautor en 2019. En ese momento, escribimos que «Esta puede ser una de las preguntas definitorias de nuestra generación». Cuatro años después, la pregunta ha tomado el centro del escenario no solo en las capitales del mundo, sino también en muchas mesas.
A medida que las personas usaron o escucharon sobre el poder del modelo básico GPT-4 de OpenAI, a menudo se sorprendieron o incluso asombraron. Muchos se han entusiasmado o incluso emocionado. Algunos han estado preocupados o incluso asustados. Lo que quedó claro para casi todos es algo que notamos hace cuatro años: somos la primera generación en la historia de la humanidad en crear máquinas que pueden tomar decisiones que antes solo podían tomar las personas.
Los países de todo el mundo han comenzado a hacer preguntas comunes. ¿Cómo podemos utilizar esta nueva tecnología para resolver nuestros problemas? ¿Cómo evitamos o manejamos los nuevos problemas que podría crear? ¿Cómo controlamos una tecnología que es tan poderosa?
Estas preguntas requieren no solo una conversación amplia y reflexiva, sino también una acción decisiva y efectiva. Este documento ofrece algunas de nuestras ideas y sugerencias como empresa.
Estas sugerencias se basan en las lecciones que hemos aprendido con base en el trabajo que hemos realizado durante varios años. El director ejecutivo de Microsoft, Satya Nadella, nos puso en un rumbo claro cuando escribió en 2016 que, “Quizás el debate más productivo que podemos tener no es el del bien contra el mal: el debate debe ser sobre los valores inculcados en las personas y las instituciones que crean esta tecnología.»
Desde entonces, hemos definido, publicado e implementado principios éticos para guiar nuestro trabajo. Y hemos desarrollado sistemas de ingeniería y gobierno en constante mejora para poner estos principios en práctica. Hoy, tenemos casi 350 personas que trabajan en la IA responsable en Microsoft, lo que nos ayuda a implementar las mejores prácticas para construir sistemas de IA seguros, protegidos y transparentes diseñados para beneficiar a la sociedad.
Nuevas oportunidades para mejorar la condición humana
Los avances resultantes en nuestro enfoque nos han brindado la capacidad y la confianza para ver formas en constante expansión para que la IA mejore la vida de las personas. Hemos visto que la IA ayuda a salvar la vista de las personas, avanza en nuevas curas para el cáncer, genera nuevos conocimientos sobre las proteínas y proporciona predicciones para proteger a las personas del clima peligroso. Otras innovaciones evitan ataques cibernéticos y ayudan a proteger los derechos humanos fundamentales, incluso en países afectados por invasiones extranjeras o guerras civiles.
Las actividades cotidianas también se verán beneficiadas. Al actuar como copiloto en la vida de las personas, el poder de los modelos básicos como GPT-4 convierte la búsqueda en una herramienta más poderosa para investigar y mejorar la productividad de las personas en el trabajo. Y, para cualquier padre que haya tenido problemas para recordar cómo ayudar a su hijo de 13 años con una tarea de álgebra, la asistencia basada en IA es un tutor útil.
De muchas maneras, la IA ofrece quizás incluso más potencial para el bien de la humanidad que cualquier invención que la haya precedido. Desde la invención de la imprenta con tipos móviles en el siglo XV, la prosperidad humana ha crecido a un ritmo acelerado. Invenciones como la máquina de vapor, la electricidad, el automóvil, el avión, la informática e Internet han proporcionado muchos de los componentes básicos de la civilización moderna. Y, al igual que la propia imprenta, la IA ofrece una nueva herramienta para ayudar en verdad a avanzar en el aprendizaje y el pensamiento humanos.
Gobierno de la IA dentro de Microsoft
En última instancia, toda organización que cree o utilice sistemas avanzados de IA deberá desarrollar e implementar sus propios sistemas de gobierno. La sección dos de este documento describe el sistema de gobierno de IA dentro de Microsoft: dónde comenzamos, dónde estamos hoy y cómo avanzamos hacia el futuro.
Como se reconoce en esta sección, el desarrollo de un nuevo sistema de gobierno para la nueva tecnología es un recorrido en sí mismo. Hace una década, este campo apenas existía. Hoy, Microsoft tiene casi 350 empleados que se especializan en esto e invertimos en nuestro próximo año fiscal para hacer crecer esto aún más.
Como se describe en esta sección, en los últimos seis años hemos creado una estructura y un sistema de gobierno de IA más completos en todo Microsoft. No empezamos desde cero, pues tomamos prestadas las mejores prácticas para la protección de la ciberseguridad, la privacidad y la seguridad digital. Todo esto es parte del sistema integral de gestión de riesgos empresariales (Enterprise Risk Management – ERM, por sus siglas en inglés) de la compañía, que se ha convertido en una parte crítica de la gestión de corporaciones y muchas otras organizaciones en el mundo de hoy.
Cuando se trata de IA, primero desarrollamos principios éticos y luego tuvimos que traducirlos en políticas corporativas más específicas. Ahora estamos en la versión 2 del estándar corporativo que incorpora estos principios y define prácticas más precisas para que las sigan nuestros equipos de ingeniería. Hemos implementado el estándar a través de sistemas de capacitación, herramientas y pruebas que continúan su maduración de manera rápida. Esto está respaldado por procesos de gobierno adicionales que incluyen medidas de seguimiento, auditoría y cumplimiento.
Como todo en la vida, uno aprende de la experiencia. Cuando se trata de la gobernanza de la IA, algunos de nuestros aprendizajes más importantes provienen del trabajo detallado requerido para revisar casos de uso sensibles específicos de la IA. En 2019, fundamos un programa de revisión de uso confidencial para someter nuestros casos de uso de IA más sensibles y novedosos a una revisión rigurosa y especializada que da como resultado una guía personalizada. Desde entonces, hemos completado alrededor de 600 revisiones de casos de uso sensibles. El ritmo de esta actividad se ha acelerado para igualar el ritmo de los avances de la IA, con casi 150 revisiones de este tipo en los 11 meses.
Todo esto se basa en el trabajo que hemos hecho y haremos para promover la IA responsable a través de la cultura empresarial. Eso significa contratar talento nuevo y diverso para hacer crecer nuestro ecosistema de IA responsable e invertir en el talento que ya tenemos en Microsoft para desarrollar habilidades y capacitarlos para pensar en términos generales sobre el impacto potencial de los sistemas de IA en las personas y la sociedad. También significa que mucho más que en el pasado, la frontera de la tecnología requiere un enfoque multidisciplinario que combine grandes ingenieros con talentosos profesionales de todas las artes liberales.
Todo esto se ofrece en este documento con el espíritu de que estamos en un recorrido colectivo para forjar un futuro responsable para la inteligencia artificial. Todos podemos aprender unos de otros. Y no importa cuán bueno podamos pensar que algo es hoy, todos debemos mejorar.
A medida que se acelera el cambio tecnológico, el trabajo para gobernar la IA de manera responsable debe seguirle el ritmo. Con los compromisos e inversiones correctos, creemos que se puede.