Por Maximilian Pizzorni<\/p>\n
A principios del verano pasado, un peque\u00f1o grupo de l\u00edderes s\u00e9nior y expertos en IA responsable de Microsoft comenzaron a usar tecnolog\u00eda de OpenAI similar a lo que el mundo ahora conoce como ChatGPT. Incluso para aquellos que hab\u00edan trabajado de cerca con los desarrolladores de esta tecnolog\u00eda en OpenAI desde 2019, el progreso m\u00e1s reciente parec\u00eda notable. Los desarrollos de IA que esper\u00e1bamos alrededor de 2033 llegar\u00edan en 2023.<\/p>\n
Al mirar hacia atr\u00e1s en la historia de nuestra industria, se destacan ciertos a\u00f1os decisivos. Por ejemplo, el uso de Internet se dispar\u00f3 con la popularidad del navegador en 1995 y el crecimiento de los tel\u00e9fonos inteligentes se aceler\u00f3 en 2007 con el lanzamiento del iPhone.<\/p>\n
Por Maximilian Pizzorni<\/p>\n
Ahora es probable que 2023 marque un punto de inflexi\u00f3n cr\u00edtico para la inteligencia artificial. Las oportunidades para las personas son enormes. Y las responsabilidades de quienes desarrollamos esta tecnolog\u00eda son a\u00fan mayores. Necesitamos usar este a\u00f1o decisivo no solo para lanzar nuevos avances de IA, sino para abordar de manera responsable y efectiva tanto las promesas como los peligros que se avecinan.<\/p>\n
Las apuestas son altas. La IA bien puede representar el avance tecnol\u00f3gico m\u00e1s importante de nuestra vida. Y si bien eso es decir mucho, hay una buena raz\u00f3n para decirlo. La IA de vanguardia de hoy en d\u00eda es una herramienta poderosa para promover el pensamiento cr\u00edtico y estimular la expresi\u00f3n creativa. Hace posible no s\u00f3lo buscar informaci\u00f3n sino buscar respuestas a preguntas.<\/p>\n
Puede ayudar a las personas a descubrir informaci\u00f3n en medio de datos y procesos complejos. Acelera nuestra capacidad de expresar lo que aprendemos m\u00e1s r\u00e1pido. Quiz\u00e1s lo m\u00e1s importante es que har\u00e1 todas estas cosas cada vez mejor en los pr\u00f3ximos meses y a\u00f1os.<\/p>\n
He tenido la oportunidad durante muchos meses de usar no solo ChatGPT, sino tambi\u00e9n los servicios internos de IA que se desarrollan dentro de Microsoft. Todos los d\u00edas, aprendo nuevas formas de aprovechar al m\u00e1ximo la tecnolog\u00eda y, lo que es m\u00e1s importante, pienso en las dimensiones m\u00e1s amplias que surgir\u00e1n de esta nueva era de IA. Las preguntas abundan.<\/p>\n
Por ejemplo, \u00bfqu\u00e9 cambiar\u00e1 esto?<\/p>\n
Con el tiempo, la respuesta corta es: casi todo. Porque, como ninguna tecnolog\u00eda anterior, estos avances de IA aumentan la capacidad de la humanidad para pensar, razonar, aprender y expresarse. En efecto, la revoluci\u00f3n industrial llega ahora al trabajo del conocimiento. Y el trabajo del conocimiento es fundamental para todo.<\/p>\n
Esto trae grandes oportunidades para mejorar el mundo. La IA mejorar\u00e1 la productividad y estimular\u00e1 el crecimiento econ\u00f3mico. Reducir\u00e1 la monoton\u00eda en muchos trabajos y, cuando se usa de manera efectiva, ayudar\u00e1 a las personas a ser m\u00e1s creativas en su trabajo e impactantes en sus vidas.<\/p>\n
La capacidad de descubrir nuevos conocimientos en grandes conjuntos de datos impulsar\u00e1 nuevos avances en la medicina, nuevas fronteras en la ciencia, nuevas mejoras en los negocios y defensas nuevas y m\u00e1s s\u00f3lidas para la ciberseguridad y la seguridad nacional.<\/p>\n
\u00bfSer\u00e1n buenos todos<\/em> los cambios?<\/p>\n Por Maximilian Pizzorni<\/p>\n Si bien desear\u00eda que la respuesta fuera s\u00ed, por supuesto que ese no es el caso. Como todas las tecnolog\u00edas anteriores, algunas personas, comunidades y pa\u00edses convertir\u00e1n este avance tanto en una herramienta como en un<\/em> arma.<\/p>\n Por desgracia, algunos usar\u00e1n esta tecnolog\u00eda para explotar los defectos de la naturaleza humana, atacar\u00e1n de manera deliberada a las personas con informaci\u00f3n falsa, socavar\u00e1n la democracia y explorar\u00e1n nuevas formas de avanzar en la persecuci\u00f3n del mal. Desafortunadamente, las nuevas tecnolog\u00edas suelen sacar lo mejor y lo peor de las personas.<\/p>\n Quiz\u00e1s m\u00e1s que nada, esto crea un profundo sentido de responsabilidad. En un nivel, para todos nosotros; y, en un nivel a\u00fan m\u00e1s alto, para aquellos de nosotros involucrados en el desarrollo y despliegue de la tecnolog\u00eda misma.<\/p>\n Hay d\u00edas en los que soy optimista y momentos en los que soy pesimista sobre c\u00f3mo la humanidad utilizar\u00e1 la IA. M\u00e1s que nada, todos necesitamos ser determinados<\/em>. Debemos entrar en esta nueva era con entusiasmo por la promesa y, sin embargo, con los ojos bien abiertos y decididos a abordar los escollos inevitables que tambi\u00e9n nos esperan.<\/p>\n La buena noticia es que no empezamos desde cero.<\/p>\n En Microsoft, hemos trabajado para construir una infraestructura de IA responsable desde 2017. Esto se ha movido junto con un trabajo similar en los espacios de ciberseguridad, privacidad y seguridad digital. Est\u00e1 conectado a un marco de gesti\u00f3n de riesgos empresariales m\u00e1s amplio que nos ha ayudado a crear los principios, las pol\u00edticas, los procesos, las herramientas y los sistemas de gobierno para una IA responsable. En el camino, hemos trabajado y aprendido junto con los expertos en IA responsable comprometidos por igual en OpenAI.<\/p>\n Ahora debemos volver a comprometernos con esta responsabilidad y hacer un llamado a los \u00faltimos seis a\u00f1os de trabajo para hacer a\u00fan m\u00e1s y avanzar a\u00fan m\u00e1s r\u00e1pido. Tanto en Microsoft como en OpenAI, reconocemos que la tecnolog\u00eda seguir\u00e1 su evoluci\u00f3n y ambos estamos comprometidos con el involucramiento y la mejora continuos.<\/p>\n La base para una IA responsable<\/p>\n Durante seis a\u00f1os, Microsoft ha invertido en un programa entre empresas para garantizar que nuestros sistemas de IA sean responsables por dise\u00f1o. En 2017, lanzamos el Comit\u00e9 Aether con investigadores, ingenieros y expertos en pol\u00edticas para centrarnos en cuestiones de IA responsable y ayudar a elaborar los Principios de IA<\/a> que adoptamos en 2018.<\/p>\n Por Maximilian Pizzorni<\/p>\n En 2019, creamos la Oficina de IA responsable para coordinar la gobernanza de IA responsable y lanzamos la primera versi\u00f3n de nuestro Est\u00e1ndar de IA responsable, un marco para traducir nuestros principios de alto nivel en una gu\u00eda pr\u00e1ctica para nuestros equipos de ingenier\u00eda. En 2021, describimos los componentes clave<\/a> para hacer operativo este programa, incluida una estructura de gobierno ampliada, capacitaci\u00f3n para equipar a nuestros empleados con nuevas habilidades y procesos y herramientas para respaldar la implementaci\u00f3n. Y, en 2022, fortalecimos nuestro Est\u00e1ndar de IA Responsable<\/a> y lo llevamos a su segunda versi\u00f3n. Esto establece c\u00f3mo construiremos sistemas de IA a trav\u00e9s de la utilizaci\u00f3n de enfoques pr\u00e1cticos para identificar, medir y mitigar los da\u00f1os con anticipaci\u00f3n, y garantizar que los controles est\u00e9n dise\u00f1ados en nuestros sistemas desde el principio.<\/p>\n Nuestro aprendizaje del dise\u00f1o y la implementaci\u00f3n de nuestro programa de IA responsable ha sido constante y fundamental. Una de las primeras cosas que hicimos en el verano de 2022 fue contratar a un equipo multidisciplinario para trabajar con OpenAI, aprovechar su investigaci\u00f3n existente y evaluar c\u00f3mo funcionar\u00eda la tecnolog\u00eda m\u00e1s reciente sin que se le aplicaran medidas de seguridad adicionales. Al igual que con todos los sistemas de IA, es importante abordar los esfuerzos de creaci\u00f3n de productos con una l\u00ednea de base inicial que proporcione una comprensi\u00f3n profunda no solo de las capacidades de una tecnolog\u00eda, sino tambi\u00e9n de sus limitaciones.<\/p>\n Por Maximilian Pizzorni<\/p>\n Juntos, identificamos algunos riesgos bien conocidos, como la capacidad de un modelo para generar contenido que perpetu\u00f3 los estereotipos, as\u00ed como la capacidad de la tecnolog\u00eda para fabricar respuestas convincentes, pero objetivamente incorrectas. Como en cualquier faceta de la vida, la primera clave para resolver un problema es entenderlo.<\/p>\n Con el beneficio de estos primeros conocimientos, los expertos en nuestro ecosistema de IA responsable tomaron medidas adicionales. Nuestros investigadores, expertos en pol\u00edticas y equipos de ingenier\u00eda unieron fuerzas para estudiar los da\u00f1os potenciales de la tecnolog\u00eda, crear canales de medici\u00f3n personalizados e iterar sobre estrategias de mitigaci\u00f3n efectivas. Gran parte de este trabajo no ten\u00eda precedentes y parte de \u00e9l desafi\u00f3 nuestro pensamiento existente. Tanto en Microsoft como en OpenAI, la gente consigui\u00f3 un r\u00e1pido progreso. Me reforz\u00f3 la profundidad y amplitud de la experiencia necesaria para avanzar en el estado del arte de la IA responsable, as\u00ed como la creciente necesidad de nuevas normas, est\u00e1ndares y leyes.<\/p>\n Por Maximilian Pizzorni<\/p>\n Construir sobre esta base<\/p>\n Al mirar hacia el futuro, haremos a\u00fan m\u00e1s. A medida que los modelos de IA contin\u00faan su avance, sabemos que tendremos que abordar preguntas de investigaci\u00f3n nuevas y abiertas, cerrar las brechas de medici\u00f3n y dise\u00f1ar nuevas pr\u00e1cticas, patrones y herramientas. Afrontaremos el camino que tenemos por delante con humildad y compromiso de escuchar, aprender y mejorar cada d\u00eda.<\/p>\n Pero nuestros propios esfuerzos y los de otras organizaciones afines no ser\u00e1n suficientes. Este momento transformador para la IA exige una perspectiva m\u00e1s amplia sobre los impactos de la tecnolog\u00eda, tanto positivos como negativos, y un di\u00e1logo mucho m\u00e1s amplio entre las partes interesadas. Necesitamos tener conversaciones amplias y profundas y comprometernos con la acci\u00f3n conjunta para definir las barandillas para el futuro.<\/p>\n Creemos que debemos centrarnos en tres objetivos clave.<\/p>\n Primero, debemos asegurarnos de que la IA se construya y utilice de manera responsable y \u00e9tica<\/strong>. La historia nos ense\u00f1a que las tecnolog\u00edas transformadoras como la IA requieren nuevas reglas del camino. Los esfuerzos proactivos y de autorregulaci\u00f3n de las empresas responsables ayudar\u00e1n a allanar el camino para estas nuevas leyes, pero sabemos que no todas las organizaciones adoptar\u00e1n pr\u00e1cticas responsables de forma voluntaria. Los pa\u00edses y las comunidades deber\u00e1n utilizar procesos legislativos democr\u00e1ticos para participar en conversaciones de toda la sociedad sobre d\u00f3nde se deben trazar los l\u00edmites para garantizar que las personas tengan protecci\u00f3n bajo la ley. En nuestra opini\u00f3n, las regulaciones efectivas de IA deben centrarse en las aplicaciones de mayor riesgo y ser duraderas y centradas en los resultados frente a las tecnolog\u00edas que avanzan con rapidez y las cambiantes expectativas sociales. Para difundir los beneficios de la IA de la manera m\u00e1s amplia posible, los enfoques regulatorios en todo el mundo deber\u00e1n ser interoperables y adaptables, al igual que la propia IA.<\/p>\n En segundo lugar, debemos asegurarnos de que la IA promueva la competitividad internacional y la seguridad nacional<\/strong>. Si bien deseamos que no sea as\u00ed, debemos reconocer que vivimos en un mundo fragmentado donde la superioridad tecnol\u00f3gica es fundamental para la competitividad internacional y la seguridad nacional. La IA es la pr\u00f3xima frontera de esa competencia. Con la combinaci\u00f3n de OpenAI y Microsoft, y DeepMind dentro de Google, Estados Unidos est\u00e1 bien posicionado para mantener el liderazgo tecnol\u00f3gico. Otros ya han comenzado a invertir, y deber\u00edamos buscar expandir esa posici\u00f3n entre otras naciones comprometidas con los valores democr\u00e1ticos.<\/p>\n Por Maximilian Pizzorni<\/p>\n Pero tambi\u00e9n es importante reconocer que el tercer actor principal en esta pr\u00f3xima ola de IA es la Academia de Inteligencia Artificial de Beijing. Y, apenas la semana pasada, Baidu de China se comprometi\u00f3 a desempe\u00f1ar un papel de liderazgo en IA. Los Estados Unidos y las sociedades democr\u00e1ticas en general necesitar\u00e1n l\u00edderes tecnol\u00f3gicos m\u00faltiples y fuertes para ayudar a promover la IA, con un liderazgo de pol\u00edtica p\u00fablica m\u00e1s amplio en temas que incluyen datos, infraestructura de supercomputaci\u00f3n de IA y talento.<\/p>\n En tercer lugar, debemos asegurarnos de que la IA sirva a la sociedad de manera amplia, no limitada.<\/strong> La historia tambi\u00e9n ha demostrado que los avances tecnol\u00f3gicos significativos pueden superar la capacidad de adaptaci\u00f3n de las personas y las instituciones. Necesitamos nuevas iniciativas para mantener el ritmo, de modo que la IA pueda empoderar a los trabajadores, los estudiantes puedan lograr mejores resultados educativos y las personas y organizaciones puedan disfrutar de un crecimiento econ\u00f3mico justo e inclusivo.<\/p>\n Nuestros grupos m\u00e1s vulnerables, incluidos los ni\u00f1os, necesitar\u00e1n m\u00e1s apoyo que nunca para prosperar en un mundo impulsado por la IA, y debemos asegurarnos de que esta pr\u00f3xima ola de innovaci\u00f3n tecnol\u00f3gica mejore la salud mental y el bienestar de las personas, en lugar de erosionarlos gradualmente. Finalmente, la IA debe servir a las personas y<\/em> al planeta. La IA puede desempe\u00f1ar un papel fundamental para ayudar a abordar la crisis clim\u00e1tica, incluso mediante el an\u00e1lisis de los resultados ambientales y el avance en el desarrollo de tecnolog\u00eda de energ\u00eda limpia, al mismo tiempo que acelera la transici\u00f3n hacia la electricidad limpia.<\/p>\n