{"id":21434,"date":"2024-02-22T23:43:28","date_gmt":"2024-02-23T03:43:28","guid":{"rendered":"https:\/\/www.notaoficial.com\/s\/?p=21434"},"modified":"2024-02-22T23:43:28","modified_gmt":"2024-02-23T03:43:28","slug":"5-desafios-de-la-inteligencia-artificial-generativa","status":"publish","type":"post","link":"https:\/\/www.notaoficial.com\/s\/2024\/02\/22\/5-desafios-de-la-inteligencia-artificial-generativa\/","title":{"rendered":"5 desaf\u00edos de la Inteligencia Artificial generativa"},"content":{"rendered":"

ESET<\/a>, compa\u00f1\u00eda l\u00edder en detecci\u00f3n proactiva de amenazas, advierte que si bien el futuro es prometedor para cada uno de los campos donde puede ser aplicada la inteligencia artificial generativa, y con grandes expectativas, existen riesgos vinculados a la adopci\u00f3n de esta nueva tendencia.<\/p>\n

Los modelos tradicionales de Inteligencia Artificial se basan en modelos estad\u00edsticos que reconocen patrones a partir de datos existentes y son m\u00e1s aprovechados para contextos anal\u00edticos y predictivos. En el auge de la inteligencia artificial, se cre\u00f3 una nueva categor\u00eda llamada generativa<\/b> que tiene el potencial de (re)construir o (re)producir contenido proveniente de alg\u00fan texto, imagen, video, audio o c\u00f3digo fuente, tan veros\u00edmil como el usuario lo permita<\/b>. Los modelos generativos pueden producir nuevos datos (artificiales) usando datos reales (alimentados por el usuario)\u00a0y crear informaci\u00f3n nueva; aquel horizonte que exist\u00eda hasta hace un par de a\u00f1os solo en los libros de ciencia ficci\u00f3n o las pel\u00edculas va acerc\u00e1ndose cada vez m\u00e1s a la realidad.<\/p>\n

La IA Generativa reside en el ciberespacio y, por consecuencia, existen riesgos asociados que pueden afectar tanto a personas como empresas o gobiernos, ESET identifica principalmente 5:<\/p>\n

1. Moderaci\u00f3n de contenidos<\/b>: Algunas de las redes sociales, sitios web o aplicaciones no son legalmente responsables, o son muy ambiguos, en lo que refiere a los contenidos subidos por sus usuarios, como ideas o publicaciones hechas por terceros o subyacentes, ni el contenido generado por IA: aun cuando cuentan con t\u00e9rminos de uso, normas de comunidad y pol\u00edticas de privacidad que protejan los derechos de autor, hay un vac\u00edo legal que sirve de blindaje para los proveedores ante una violaci\u00f3n de derechos de autor.<\/p>\n

    \n
  1. Infracci\u00f3n de los derechos de autor e imagen:<\/b> En los Estados Unidos, en mayo 2023, una Huelga del Sindicato de Guionistas, comenz\u00f3 una serie de conflictos al que se le unieron en julio del mismo a\u00f1o el Sindicato de Actores en Hollywood. Las principales causas de este movimiento se debieron a la petici\u00f3n de un aumento salarial derivado del auge de las plataformas digitales, ya que hubo un incremento en la demanda\/creaci\u00f3n del contenido y buscaban que las ganancias fueran repartidas proporcionalmente entre guionistas\/actores y las grandes compa\u00f1\u00edas.<\/li>\n<\/ol>\n

    Otro motivo fue el abuso de la IA Generativa por parte de estas compa\u00f1\u00edas para producir contenido sin el consentimiento del actor o actriz de usar su rostro y voz para fines comerciales, por lo que solicitaron un nuevo contrato que los protegiera de la explotaci\u00f3n de su identidad y talento sin su consentimiento ni remuneraci\u00f3n para esta tecnolog\u00eda. La originalidad de alg\u00fan contenido independientemente de la fuente, con la llegada de la IA Generativa cada vez parece ser m\u00e1s difusa. En este caso, muchos derechos de autor y permisos de imagen fueron ignorados por grandes compa\u00f1\u00edas, generando una enorme molestia y como consecuencia de esto Estados Unidos opt\u00f3 por implementar recursos legales que protegieran a ambas partes.<\/p>\n

      \n
    1. Privacidad:<\/b> Para que los modelos de IA Generativa puedan funcionar correctamente necesitan de grandes vol\u00famenes de datos para ser entrenados, pero \u00bfqu\u00e9 sucede cuando este volumen puede obtenerse de cualquier fuente p\u00fablica como videos, audios, im\u00e1genes, textos o c\u00f3digos fuente sin el consentimiento del titular? Es aqu\u00ed donde, seg\u00fan ESET, las plataformas, aplicaciones y redes sociales debieran apegarse al marco normativo sobre la privacidad de datos de cada pa\u00eds en caso de existir, de lo contrario apoyarse Reglamento General de Protecci\u00f3n de Datos (GDPR) del Parlamento Europeo que ya incluye una secci\u00f3n para la IA.<\/li>\n
    2. Cuestiones \u00e9ticas:<\/b> Aquellos pa\u00edses donde las regulaciones en materia de IA son escasas o nulas, son aprovechadas por algunos usuarios para fines nada \u00e9ticos como la suplantaci\u00f3n de identidad (voz, imagen o video) para crear perfiles falsos que usan para cometer fraude\/extorsi\u00f3n a trav\u00e9s de alguna plataforma, aplicaci\u00f3n o red social, o tambi\u00e9n lanzar campa\u00f1as de phishing sofisticadas o estafas del tipo\u00a0catfishing<\/a>.<\/li>\n
    3. Desinformaci\u00f3n:<\/b> Aprovechando este tipo de IA las pr\u00e1cticas de difusi\u00f3n de noticias falsas en plataformas y redes sociales se ven mejoradas. La viralizaci\u00f3n de estos contenidos enga\u00f1osos generados llega a perjudicar la imagen de alguna persona, comunidad, pa\u00eds, gobierno o empresa.<\/li>\n<\/ol>\n

      \u201cLa IA Generativa presenta riesgos particulares que deben abordarse de manera cuidadosa para garantizar su uso \u00e9tico y seguro. Estos riesgos incluyen desde la moderaci\u00f3n del contenido que suben los usuarios, hasta aquel enga\u00f1oso, sesgado o perjudicial para evitar la manipulaci\u00f3n de informaci\u00f3n.\u201d, <\/i>menciona David Gonz\u00e1lez Cuautle, Investigador de Seguridad Inform\u00e1tica de ESET Latinoam\u00e9rica.<\/p>\n

      Al considerar estos riesgos, desde ESET se\u00f1alan que es esencial implementar estrategias preventivas y correctivas, tales como:<\/p>\n

        \n
      • Filtrado y moderaci\u00f3n efectiva:<\/b> Desarrollar sistemas de filtrado y moderaci\u00f3n robustos que puedan identificar y eliminar contenido inapropiado, enga\u00f1oso o sesgado generado por modelos de IA Generativa. Esto ayudar\u00e1 a mantener la integridad de la informaci\u00f3n y a prevenir posibles consecuencias negativas.<\/li>\n
      • Entrenamiento con datos \u00e9ticos y diversificados:<\/b> Garantizar que los modelos de IA Generativa se entrenen con conjuntos de datos \u00e9ticos, imparciales y representativos. La diversificaci\u00f3n de los datos contribuye a reducir sesgos y a mejorar la capacidad del modelo para generar contenido m\u00e1s equitativo y preciso.<\/li>\n
      • Transparencia en la regulaci\u00f3n del contenido:<\/b> Establecer regulaciones que permitan a los usuarios comprender c\u00f3mo se genera el contenido, el tratamiento que reciben los datos y las implicaciones que puede llegar a tener en caso de no cumplir.<\/li>\n
      • Evaluaci\u00f3n continua de la \u00e9tica y la calidad:<\/b> Implementar mecanismos de evaluaci\u00f3n continua para monitorear la \u00e9tica y la calidad del contenido generado. Estos mecanismos pueden incluir auditor\u00edas regulares, pruebas de robustez y colaboraci\u00f3n con la comunidad para identificar y abordar posibles problemas \u00e9ticos.<\/li>\n<\/ul>\n

        Educaci\u00f3n y conciencia p\u00fablica:<\/b> Promover la educaci\u00f3n y la conciencia p\u00fablica sobre los riesgos asociados con la IA Generativa. Fomentar la comprensi\u00f3n de c\u00f3mo funcionan estos modelos y cu\u00e1les son sus posibles impactos permitir\u00e1n al usuario participar activamente en la discusi\u00f3n y en la exigencia de pr\u00e1cticas \u00e9ticas por parte de los desarrolladores y empresas.<\/p>\n","protected":false},"excerpt":{"rendered":"

        ESET, compa\u00f1\u00eda l\u00edder en detecci\u00f3n proactiva de amenazas, advierte que si bien el futuro es prometedor para cada uno de los campos donde puede ser aplicada la inteligencia artificial generativa, y con grandes expectativas, existen riesgos vinculados a la adopci\u00f3n de esta nueva tendencia. Los modelos tradicionales de Inteligencia Artificial se basan en modelos estad\u00edsticos […]<\/p>\n","protected":false},"author":2,"featured_media":21435,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[93,146,2],"tags":[988,9552],"wppr_data":{"cwp_meta_box_check":"No"},"_links":{"self":[{"href":"https:\/\/www.notaoficial.com\/s\/wp-json\/wp\/v2\/posts\/21434"}],"collection":[{"href":"https:\/\/www.notaoficial.com\/s\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.notaoficial.com\/s\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.notaoficial.com\/s\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/www.notaoficial.com\/s\/wp-json\/wp\/v2\/comments?post=21434"}],"version-history":[{"count":1,"href":"https:\/\/www.notaoficial.com\/s\/wp-json\/wp\/v2\/posts\/21434\/revisions"}],"predecessor-version":[{"id":21436,"href":"https:\/\/www.notaoficial.com\/s\/wp-json\/wp\/v2\/posts\/21434\/revisions\/21436"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.notaoficial.com\/s\/wp-json\/wp\/v2\/media\/21435"}],"wp:attachment":[{"href":"https:\/\/www.notaoficial.com\/s\/wp-json\/wp\/v2\/media?parent=21434"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.notaoficial.com\/s\/wp-json\/wp\/v2\/categories?post=21434"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.notaoficial.com\/s\/wp-json\/wp\/v2\/tags?post=21434"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}