Sí, la inteligencia artificial cada vez engaña más a los usuarios

sí, la inteligencia artificial cada vez engaña más a los usuarios

Sí, la IA cada vez engaña más a los usuarios, según revela un estudio

Raro es el día en el que la inteligencia artificial no es protagonista. Por un lado, por los muchos avances que esta presenta, como ha sido el caso de ChatGPT-4o.

Sin embargo, también sucede lo contrario: muchas voces dan señales de alarma en todo lo que concierne a esta tecnología. ¿Y quién no ha visto películas en las que la IA resulta fatal para la humanidad?

Por si acaso ya no existían suficientes temores, al menos entre una buena parte de la población, ahora un trabajo parece estar dispuesto a arrojar un poco más de leña al fuego. Después de haber estudiado la inteligencia artificial en profundidad, sus conclusiones son sorprendentes: la IA cada vez engaña más a los usuarios, es cierto.

 

La inteligencia artificial, ¿una experta en el engaño?

їQuГ© es engaГ±ar? Si le preguntas a cualquiera, seguramente te dirГЎ que mentir o faltar a la verdad con algГєn propГіsito. Los creadores de un nuevo estudio relacionado con la inteligencia artificial, en cambio, lo explican con otras palabras. Para ellos, se trata de “la inducción sistemática de creencias falsas en otros para lograr un resultado distinto a la verdad”.

Los científicos Peter S. Park, Simon Goldstein, Aidan O’Gara, Michael Chen y Dan Hendrycks han publicado un informe en el que aseguran que la IA es capaz de esto, y mucho más. Es decir, que se estaría convirtiendo en algo así como una experta en el arte del engaño. Por supuesto, esto conllevaría riesgos, pero hay soluciones. No todo está perdido.

En cualquier caso, el diagnóstico de los especialistas preocupa: “Los grandes modelos de lenguaje y otros sistemas de IA han aprendido, a partir de su entrenamiento, la capacidad de engañar mediante técnicas como la manipulación, la adulación y la trampa en las pruebas de seguridad”, advierten en su informe.

Por supuesto, los riesgos podrían ser considerables dadas las “crecientes capacidades de la IA para el engaño”. En el informe se habla desde riesgos que podrían experimentarse a corto plazo, como el fraude y la manipulación de elecciones, hasta amenazas que tardarían más en llegar, como la pérdida de control sobre los sistemas de IA. Algo que ya se ha advertido antes.

Las soluciones para arreglar la IA son imposibles

Aunque los expertos temen las consecuencias que podría tener una IA descontrolada en eso de engañar a los seres humanos (como, según parece, ya sucede), también ofrecen soluciones. Es decir, que cambiar lo que pasa no es imposible. Solo serían necesarios “marcos regulatorios para evaluar los riesgos de engaño de la IA y leyes que exijan transparencia”.

їSe lograrГЎn estas medidas en el futuro? No conviene olvidar, ademГЎs, que este estudio irrumpe en un momento complejo para la IA. Por un lado, se valora todo lo que puede ofrecer la nueva versiГіn de ChatGPT, pero tambiГ©n se ha visto cГіmo muchos ejecutivos de grandes tecnolГіgicas han decidido abandonar sus puestos para alertar de la falta de seguridad.

De momento, nadie parece ponerse de acuerdo acerca de si verdaderamente hay un riesgo manifiesto en esta tecnología, como en las películas de ciencia ficción, o no hay grandes motivos para preocuparse.

OTHER NEWS

46 minutes ago

Insólito: vuelven las pirámides a nombre de David Murcia Guzmán de DMG

46 minutes ago

Dirigente de Fecode dijo que el Gobierno “arreglará con mermelada” a congresistas para aprobar su reforma a la educación

46 minutes ago

Nicholson, Gray y Reid, el tridente ofensivo que se suma al polémico Leon Bailey

46 minutes ago

Volatilidad del peso se mantiene y acumula depreciación de 9.3% tras elecciones

46 minutes ago

Reservas internacionales aumentan 455 mdd: Banxico

46 minutes ago

Cómo activar el modo Intensamente en tu WhatsApp

46 minutes ago

Judge abandona juego de Yankees ante Orioles tras recibir pelotazo en una mano

46 minutes ago

Ligera recuperación del peso... aunque persiste la inquietud por la reforma judicial

51 minutes ago

Por qué Europa ya no es capaz de competir con Estados Unidos

51 minutes ago

Toluca está cerca de cerrar a Paulinho, su bomba europea: reporte

51 minutes ago

Pirelli anuncia la elección de neumáticos para el GP de España: ¿Cuál es la mejor estrategia?

51 minutes ago

Arturo Vidal, "con rabia" porque no lo llevaron a Copa América

57 minutes ago

Comerciantes protestan contra tiendas chinas en Tlaxcoapan

57 minutes ago

หมอ เตือน "คนชอบยืดผม" หลังพบสาวไทยเกิดภาวะไตวายเฉียบพลัน หลังยืดผม

57 minutes ago

Reactivarán juicio político a Samuel García la próxima semana

1 hour ago

Un "contraacto" a la presencia de Milei

1 hour ago

El inédito llamado de Mbappé y más de 200 deportistas a votar en contra de los extremos en las legislativas de Francia

1 hour ago

¿Quién es Michell Rodríguez? Nuevo refuerzo de los Pumas

1 hour ago

Diferencias entre Boca y Toto Belmonte: el motivo por el que se frenaron las negociaciones

1 hour ago

Una cacería policial muy floja de papeles

1 hour ago

Daniel Briceño denuncia que abogado del presidente Petro habría recibido contratos por más de $735 millones: “Inadmisible”

1 hour ago

“Estamos en esa etapa en la que todo nos sale bien”: Francisco Lindor habló del buen momento de los Mets

1 hour ago

‘Yotzin’ aparece tras 10 mil años para sorprender a especialistas del INAH

1 hour ago

Tamaulipas, Coahuila y NL suspenden clases por “Alberto” y se preparan para su arribo

1 hour ago

El momento exacto en el que mar se traga a mujer que caminaba de la mano con su pareja por la playa

1 hour ago

Michelle Renaud presume el cuarto de su bebé: ‘Listos para recibir a Milo’

1 hour ago

Sangre y Queso, quiénes son los personajes de “La Casa del Dragón” que generan polémica

1 hour ago

Los mejores proveedores de hosting de pago

1 hour ago

Colapsa obra del Tren Maya por fuertes lluvias en Chetumal y aplasta una camioneta

1 hour ago

León hace oficial el fichaje de Ettson Ayón con espectacular video

1 hour ago

Buque atacado por combatientes hutíes de Yemen se hunde en el mar Rojo

1 hour ago

Franceses imprimen armamento militar en 3D para enviar a Ucrania

1 hour ago

Impresiones con New World: Aeternum - Una evolución natural pero imperfecta en consolas

1 hour ago

¿Muerte de Noam Chomsky? La "fake news" en la que cayó el mundo

1 hour ago

ดาวเกตุย้าย 18 มิ.ย. 67 "อาจารย์คฑา ชินบัญชร" เปิด 2 ราศี เฮงยืนหนึ่ง

1 hour ago

Explosivas declaraciones del presidente Noboa ponen en apuros a varias instituciones del Estado ecuatoriano

1 hour ago

Suman más de tres meses sin funcionamiento de las escaleras eléctricas del Mercado Corona

1 hour ago

Chevy Monte Carlo SS Aero Coupe: una locura americana sobre ruedas con motor V8

1 hour ago

Aaron Judge abandona el Orioles-Yankees por pelotazo en la mano

1 hour ago

La IA cumple el sueño de Nvidia: desde los gráficos para Sega a ser la empresa más valiosa del mundo