{"id":23388,"date":"2024-07-31T23:52:31","date_gmt":"2024-08-01T03:52:31","guid":{"rendered":"https:\/\/www.notaoficial.com\/s\/?p=23388"},"modified":"2024-07-31T23:52:31","modified_gmt":"2024-08-01T03:52:31","slug":"proteger-al-publico-de-los-contenidos-abusivos","status":"publish","type":"post","link":"https:\/\/www.notaoficial.com\/s\/2024\/07\/31\/proteger-al-publico-de-los-contenidos-abusivos\/","title":{"rendered":"Proteger al p\u00fablico de los contenidos abusivos"},"content":{"rendered":"

Los deepfakes<\/em> generados por IA son realistas, f\u00e1ciles de hacer para casi cualquier persona y se utilizan cada vez m\u00e1s para el fraude, el abuso y la manipulaci\u00f3n, en especial para dirigirse a ni\u00f1os y personas mayores. Si bien el sector tecnol\u00f3gico y los grupos sin fines de lucro han tomado medidas recientes para abordar este problema, se ha hecho evidente que nuestras leyes tambi\u00e9n deber\u00e1n evolucionar para combatir el fraude de deepfakes. En resumen, necesitamos nuevas leyes que ayuden a evitar que los malos actores utilicen deepfakes<\/em> para estafar a las personas mayores o abusar de los ni\u00f1os.<\/p>\n

Si bien nosotros y otros nos hemos centrado, con raz\u00f3n, en los deepfakes<\/em> utilizados para interferir en las elecciones, el amplio papel que desempe\u00f1an en estos otros tipos de delitos y abusos necesita la misma atenci\u00f3n. Por fortuna, los miembros del Congreso de los Estados Unidos han propuesto una serie de proyectos de ley que contribuir\u00edan en gran medida a abordar el problema, la Administraci\u00f3n se centra en el problema, grupos como AARP y NCMEC est\u00e1n involucrados a fondo en dar forma a la discusi\u00f3n, y la industria ha trabajado en conjunto y ha construido una base s\u00f3lida en \u00e1reas adyacentes que se puede aplicar aqu\u00ed.<\/p>\n

Una de las cosas m\u00e1s importantes que puede hacer Estados Unidos es aprobar un estatuto integral de fraude de deepfakes<\/em> para evitar que los ciberdelincuentes utilicen esta tecnolog\u00eda para robar a los estadounidenses de a pie.<\/p>\n

No tenemos todas las soluciones ni las perfectas, pero queremos contribuir y acelerar la acci\u00f3n. Es por eso que hoy publicamos 42 p\u00e1ginas sobre lo que nos ha llevado a comprender el desaf\u00edo, as\u00ed como un conjunto completo de ideas, incluidos el respaldo al arduo trabajo y las pol\u00edticas de otros. A continuaci\u00f3n se muestra el pr\u00f3logo que he escrito a lo que publicamos.<\/p>\n

 <\/p>\n

\n

Lo siguiente ha sido escrito por Brad Smith para el informe de Microsoft Protecting the Public from Abusive AI-Generated Content. <\/strong>Encuentren la copia completa del informe aqu\u00ed: <\/em>https:\/\/aka.ms\/ProtectThePublic<\/a><\/p>\n

\u00abEl mayor riesgo no es que el mundo haga demasiado para resolver estos problemas. Es que el mundo har\u00e1 muy poco. Y no es que los gobiernos vayan a moverse demasiado r\u00e1pido. Es que ser\u00e1n demasiado lentos\u00bb.<\/strong><\/p>\n

Con esas frases concluye el libro del que fui coautor en 2019 titulado \u00abHerramientas y armas\u00bb. Como sugiere el t\u00edtulo, el libro explora c\u00f3mo la innovaci\u00f3n tecnol\u00f3gica puede servir como una herramienta para el avance de la sociedad y como un arma poderosa. En el panorama digital actual, que evoluciona con rapidez, el auge de la inteligencia artificial (IA) presenta oportunidades sin precedentes y desaf\u00edos significativos. La IA transforma las peque\u00f1as empresas, la educaci\u00f3n y la investigaci\u00f3n cient\u00edfica; ayuda a los m\u00e9dicos e investigadores m\u00e9dicos a diagnosticar y descubrir curas para enfermedades; y est\u00e1 potencia la capacidad de los creadores para expresar nuevas ideas. Sin embargo, esta misma tecnolog\u00eda tambi\u00e9n produce un aumento en el contenido abusivo generado por la IA, o como discutiremos en este art\u00edculo, contenido \u00absint\u00e9tico\u00bb abusivo.<\/p>\n

Cinco a\u00f1os despu\u00e9s, nos encontramos en un momento de la historia en el que cualquier persona con acceso a Internet puede utilizar herramientas de IA para crear una pieza muy realista de medios sint\u00e9ticos que puede utilizarse para enga\u00f1ar: un clon de la voz de un miembro de la familia, una imagen deepfake<\/em> de un candidato pol\u00edtico o incluso un documento gubernamental manipulado. La IA ha hecho que la manipulaci\u00f3n de medios sea mucho m\u00e1s f\u00e1cil: m\u00e1s r\u00e1pida, m\u00e1s accesible y que requiere poca habilidad. Con la misma rapidez con la que la tecnolog\u00eda de IA se ha convertido en una herramienta, se ha convertido en un arma. Al cierre de este documento, el gobierno de EE. UU. anunci\u00f3 de manera reciente que interrumpi\u00f3 con \u00e9xito una operaci\u00f3n de desinformaci\u00f3n mejorada por IA patrocinada por un estado-naci\u00f3n. El director del FBI, Christopher Wray, dijo en su declaraci\u00f3n: \u00abRusia ten\u00eda la intenci\u00f3n de utilizar esta granja de bots para difundir desinformaci\u00f3n extranjera generada por IA, con el objetivo de ampliar su trabajo con la ayuda de la IA para socavar a nuestros socios en Ucrania e influir en las narrativas geopol\u00edticas favorables al gobierno ruso\u00bb. Si bien debemos felicitar a las fuerzas del orden p\u00fablico de los EE. UU. por trabajar de manera cooperativa y exitosa con una plataforma tecnol\u00f3gica para llevar a cabo esta operaci\u00f3n, tambi\u00e9n debemos reconocer que este tipo de trabajo apenas comienza.<\/p>\n

El prop\u00f3sito de este libro blanco es fomentar una acci\u00f3n m\u00e1s r\u00e1pida contra el contenido abusivo generado por IA por parte de los responsables pol\u00edticos, los l\u00edderes de la sociedad civil y la industria tecnol\u00f3gica. A medida que navegamos por este complejo terreno, es imperativo que los sectores p\u00fablico y privado se unan para abordar este problema de frente. El gobierno desempe\u00f1a un papel crucial en el establecimiento de marcos regulatorios y pol\u00edticas que promuevan el desarrollo y el uso responsables de la IA. En todo el mundo, los gobiernos toman medidas para mejorar la seguridad en l\u00ednea y abordar el contenido ilegal y da\u00f1ino.<\/p>\n

El sector privado tiene la responsabilidad de innovar e implementar salvaguardas que eviten el uso indebido de la IA. Las empresas tecnol\u00f3gicas deben dar prioridad a las consideraciones \u00e9ticas en sus procesos de investigaci\u00f3n y desarrollo de IA. Al invertir en t\u00e9cnicas avanzadas de an\u00e1lisis, divulgaci\u00f3n y mitigaci\u00f3n, el sector privado puede desempe\u00f1ar un papel fundamental para frenar la creaci\u00f3n y difusi\u00f3n de contenidos nocivos generados por la IA, para mantener as\u00ed la confianza en el ecosistema de la informaci\u00f3n.<\/p>\n

La sociedad civil desempe\u00f1a un papel importante a la hora de garantizar que tanto la regulaci\u00f3n gubernamental como la acci\u00f3n voluntaria de la industria defiendan los derechos humanos fundamentales, como la libertad de expresi\u00f3n y la privacidad. Al fomentar la transparencia y la rendici\u00f3n de cuentas, podemos generar confianza p\u00fablica en las tecnolog\u00edas de IA.<\/p>\n

Las siguientes p\u00e1ginas hacen tres cosas espec\u00edficas: 1) ilustrar y analizar los da\u00f1os derivados del contenido abusivo generado por IA, 2) explicar cu\u00e1l es el enfoque de Microsoft y 3) ofrecer recomendaciones de pol\u00edticas para comenzar a combatir estos problemas. En \u00faltima instancia, abordar los desaf\u00edos que surgen del contenido abusivo generado por IA requiere un frente unido. Al aprovechar las fortalezas y la experiencia de los sectores p\u00fablico, privado y de las ONG, podemos crear un entorno digital m\u00e1s seguro y confiable para todos. Juntos, podemos liberar el poder de la IA para el bien, al tiempo que nos protegemos de sus peligros potenciales.<\/p>\n

La responsabilidad de Microsoft de combatir el contenido abusivo generado por IA<\/strong><\/h3>\n

A principios de este a\u00f1o, esbozamos un enfoque integral para combatir el contenido abusivo generado por IA y proteger a las personas y las comunidades, basado en seis \u00e1reas de enfoque:<\/p>\n

    \n
  1. Una s\u00f3lida arquitectura de seguridad.<\/li>\n
  2. Procedencia de medios y marcas de agua duraderas.<\/li>\n
  3. Proteger nuestros servicios de contenido y conductas abusivas.<\/li>\n
  4. S\u00f3lida colaboraci\u00f3n entre la industria y con los gobiernos y la sociedad civil.<\/li>\n
  5. Legislaci\u00f3n modernizada para proteger a las personas del abuso de la tecnolog\u00eda.<\/li>\n
  6. Sensibilizaci\u00f3n y educaci\u00f3n p\u00fablica.<\/li>\n<\/ol>\n

    Un aspecto central de estas seis cuestiones es nuestra responsabilidad de ayudar a abordar el uso abusivo de la tecnolog\u00eda. Creemos que es imperativo que el sector tecnol\u00f3gico tome medidas proactivas de manera continua, para abordar los da\u00f1os que hemos visto en todos los servicios y plataformas. Hemos tomado medidas concretas, entre ellas:<\/p>\n

      \n
    • Implementaci\u00f3n de una arquitectura de seguridad que incluya an\u00e1lisis de equipo rojo, clasificadores preventivos, bloqueo de avisos abusivos, pruebas automatizadas y prohibiciones r\u00e1pidas de usuarios que abusan del sistema.<\/li>\n<\/ul>\n
        \n
      • Adjuntar de manera autom\u00e1tica metadatos de procedencia a im\u00e1genes generadas con el modelo DALL-E 3 de OpenAI en Azure OpenAI Service, Microsoft Designer y Microsoft Paint.<\/li>\n<\/ul>\n
          \n
        • Desarrollar est\u00e1ndares para la procedencia y autenticaci\u00f3n del contenido a trav\u00e9s de la Coalici\u00f3n para la Procedencia y Autenticidad del Contenido (C2PA, por sus siglas en ingl\u00e9s) e implementar el est\u00e1ndar C2PA para que el contenido que lleva la tecnolog\u00eda se etiquete de manera autom\u00e1tica en LinkedIn.<\/li>\n<\/ul>\n
            \n
          • Tomar medidas continuas para proteger a los usuarios de los da\u00f1os en l\u00ednea, incluso uni\u00e9ndose al programa Lantern de Tech Coalition y ampliar la disponibilidad de PhotoDNA.<\/li>\n<\/ul>\n
              \n
            • Lanzamiento de nuevas herramientas de detecci\u00f3n como Azure Operator Call Protection para que nuestros clientes detecten posibles estafas telef\u00f3nicas mediante IA.<\/li>\n<\/ul>\n
                \n
              • Cumplir nuestros compromisos con el nuevo Acuerdo Tecnol\u00f3gico para combatir el uso enga\u00f1oso de la IA en las elecciones.<\/li>\n<\/ul>\n

                Proteger a los estadounidenses a trav\u00e9s de nuevas medidas legislativas y pol\u00edticas<\/strong><\/h3>\n

                En febrero de este a\u00f1o, Microsoft y LinkedIn se unieron a docenas de otras empresas tecnol\u00f3gicas para lanzar el Acuerdo Tecnol\u00f3gico para Combatir el Uso Enga\u00f1oso de la IA en las Elecciones de 2024 en la Conferencia de Seguridad de M\u00fanich. El Acuerdo insta a la acci\u00f3n en tres pilares clave que utilizamos para inspirar el trabajo adicional que se encuentra en este documento t\u00e9cnico: abordar la creaci\u00f3n de deepfakes<\/em>, detectar y responder a los deepfakes<\/em>, y promover la transparencia y la resiliencia.<\/p>\n

                Adem\u00e1s de combatir los deepfakes<\/em> de IA en nuestras elecciones, es importante que los legisladores y los responsables pol\u00edticos tomen medidas para ampliar nuestras capacidades colectivas para (1) promover la autenticidad del contenido, (2) detectar y responder a los deepfakes<\/em> abusivos, y (3) dar al p\u00fablico las herramientas para aprender sobre los da\u00f1os sint\u00e9ticos de la IA. Hemos identificado nuevas recomendaciones de pol\u00edticas para los responsables de la formulaci\u00f3n de pol\u00edticas en los Estados Unidos. Al pensar en estas ideas complejas, tambi\u00e9n debemos recordar pensar en este trabajo en t\u00e9rminos sencillos. Estas recomendaciones tienen como objetivo:<\/p>\n

                  \n
                • Proteger nuestras elecciones.<\/strong><\/li>\n
                • Proteger a las personas mayores y a los consumidores del fraude en l\u00ednea.<\/strong><\/li>\n
                • Proteger a las mujeres y los ni\u00f1os de la explotaci\u00f3n en l\u00ednea.<\/strong><\/li>\n<\/ul>\n

                  En ese sentido, vale la pena mencionar tres ideas que pueden tener un impacto descomunal en la lucha contra el contenido enga\u00f1oso y abusivo generado por IA.<\/p>\n

                    \n
                  • En primer lugar, el Congreso deber\u00eda promulgar un nuevo \u00abestatuto federal de fraude de deepfakes<\/em>\u00ab. Necesitamos dar a los funcionarios encargados de hacer cumplir la ley, incluidos los fiscales generales de los estados, un marco legal independiente para enjuiciar el fraude y las estafas generadas por IA a medida que proliferan en velocidad y complejidad.<\/li>\n<\/ul>\n
                      \n
                    • En segundo lugar, el Congreso deber\u00eda exigir a los proveedores de sistemas de IA que utilicen herramientas de procedencia de \u00faltima generaci\u00f3n para etiquetar el contenido sint\u00e9tico. Esto es esencial para generar confianza en el ecosistema de la informaci\u00f3n y ayudar\u00e1 al p\u00fablico a comprender mejor si el contenido es generado o manipulado por IA.<\/li>\n<\/ul>\n
                        \n
                      • En tercer lugar, debemos asegurarnos de que nuestras leyes federales y estatales sobre la explotaci\u00f3n y el abuso sexual infantil y las im\u00e1genes \u00edntimas no consentidas se actualicen para incluir contenido generado por IA. Las sanciones por la creaci\u00f3n y distribuci\u00f3n de CSAM y NCII (ya sean sint\u00e9ticos o no) son de sentido com\u00fan y muy necesarias si queremos mitigar el flagelo de los malos actores que utilizan herramientas de IA para la explotaci\u00f3n sexual, en especial cuando las v\u00edctimas suelen ser mujeres y ni\u00f1os.<\/li>\n<\/ul>\n

                        No se trata necesariamente de ideas nuevas. La buena noticia es que algunas de estas ideas, de una forma u otra, ya han empezado a echar ra\u00edces en el Congreso y las legislaturas estatales. Destacamos piezas espec\u00edficas de legislaci\u00f3n que se ajustan a nuestras recomendaciones en este documento, y alentamos su pronta consideraci\u00f3n por parte de nuestros funcionarios electos estatales y federales.<\/p>\n

                        Microsoft ofrece estas recomendaciones para contribuir al di\u00e1logo tan necesario sobre los da\u00f1os de los medios sint\u00e9ticos de la IA. La puesta en pr\u00e1ctica de cualquiera de estas propuestas requerir\u00e1, de manera fundamental, un enfoque de toda la sociedad. Si bien es imperativo que la industria tecnol\u00f3gica tenga un asiento en la mesa, debe hacerlo con humildad y un sesgo hacia la acci\u00f3n. Microsoft da la bienvenida a ideas adicionales de las partes interesadas en todo el ecosistema digital para abordar los da\u00f1os del contenido sint\u00e9tico. En \u00faltima instancia, el peligro no es que nos movamos demasiado r\u00e1pido, sino que nos movemos demasiado lento o no lo hacemos en absoluto.<\/p>\n","protected":false},"excerpt":{"rendered":"

                        Los deepfakes generados por IA son realistas, f\u00e1ciles de hacer para casi cualquier persona y se utilizan cada vez m\u00e1s para el fraude, el abuso y la manipulaci\u00f3n, en especial para dirigirse a ni\u00f1os y personas mayores. Si bien el sector tecnol\u00f3gico y los grupos sin fines de lucro han tomado medidas recientes para abordar […]<\/p>\n","protected":false},"author":2,"featured_media":23389,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[93,146],"tags":[6613],"wppr_data":{"cwp_meta_box_check":"No"},"_links":{"self":[{"href":"https:\/\/www.notaoficial.com\/s\/wp-json\/wp\/v2\/posts\/23388"}],"collection":[{"href":"https:\/\/www.notaoficial.com\/s\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.notaoficial.com\/s\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.notaoficial.com\/s\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.notaoficial.com\/s\/wp-json\/wp\/v2\/comments?post=23388"}],"version-history":[{"count":1,"href":"https:\/\/www.notaoficial.com\/s\/wp-json\/wp\/v2\/posts\/23388\/revisions"}],"predecessor-version":[{"id":23390,"href":"https:\/\/www.notaoficial.com\/s\/wp-json\/wp\/v2\/posts\/23388\/revisions\/23390"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.notaoficial.com\/s\/wp-json\/wp\/v2\/media\/23389"}],"wp:attachment":[{"href":"https:\/\/www.notaoficial.com\/s\/wp-json\/wp\/v2\/media?parent=23388"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.notaoficial.com\/s\/wp-json\/wp\/v2\/categories?post=23388"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.notaoficial.com\/s\/wp-json\/wp\/v2\/tags?post=23388"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}