miércoles 6 diciembre, 2023
InicioTodas las noticiasFlash NewsUso no regulado de IA, un peligro para la sociedad global: Tanium

Uso no regulado de IA, un peligro para la sociedad global: Tanium

"Para poner en marcha el proceso regulatorio los legisladores deben sentarse con los principales expertos en la materia para obtener las conclusiones correctas y aprobar una legislación adaptada antes de emitir reglas equivocadas e ineficaces”: Miguel Llerena, VP para Latinoamérica de Tanium.

Tanium señala que la Inteligencia Artificial (IA) ha golpeado como una bomba la vida cotidiana. Cuando ChatGPT de OpenAI se lanzó al público en general a fines de noviembre del año pasado, una sacudida atravesó la sociedad global, ya que ninguna aplicación en la historia observó un crecimiento de un millón de usuarios registrados cinco días después de su lanzamiento y, después de un mes, el chatbot rompió la marca de 100 millones.

Para la firma, el entusiasmo desenfrenado por los productos de las aplicaciones de IA pronto se vio empañado por la preocupación sobre su impacto en la sociedad: el manejo acrítico de los resultados, algunos de los cuales son alucinaciones, es tan preocupante como las preguntas sobre sus cualidades disruptivas para el sistema educativo, el peligro de las campañas de desinformación escalables y gratuitas, el acceso de bajo espectro al código malicioso y, finalmente, sobre el cumplimiento y los derechos de autor que están aún sin resolver.

Regular e involucrar a expertos

Países como Italia y China han tratado de restringir el uso de ChatGPT, siendo ejemplos iniciales de enfoques regulatorios aún complicados porque ni siquiera los principales desarrolladores de IA de OpenAI y Google pueden comprender (o no quieren revelar) los detalles de cómo se crean los resultados de sus modelos generativos de IA, situación que se debería tomar como una señal de advertencia.

“Depende de los legisladores a escala global, establecer el curso regulatorio correcto para que se pueda gestionar el daño y potencial de mejoras revolucionarias de la IA para la ciencia, los negocios y toda la sociedad global. Pero para poner en marcha el proceso regulatorio los legisladores deben sentarse con los principales expertos en la materia para obtener las conclusiones correctas y aprobar una legislación adaptada antes de emitir reglas equivocadas e ineficaces”, señaló Miguel Llerena, VP para Latinoamérica de Tanium.

Para Tanium, a los ojos de inversores y desarrolladores, está en juego nada menos que el modelo de desarrollo más grande en la historia humana, con la promesa de una creación de valor automatizada casi ilimitada, saltos cuánticos en la ciencia y el consiguiente aumento de prosperidad para toda la humanidad.

No obstante, al mismo tiempo, solo un puñado de investigadores en todo el mundo se ocupa de las disciplinas de seguridad de la IA que serían, como primera disciplina, la interpretabilidad; que se ocupa de desarrollar una comprensión profunda de cómo se producen los resultados respectivos de los diversos modelos de IA. Solo con la ayuda de esta comprensión se puede predecir el comportamiento futuro de la IA y evitar resultados dañinos.

La segunda disciplina de la seguridad de la IA, es la investigación de alineación; que tiene como objetivo equipar los modelos y agentes de IA actuales (débiles) y futuros (fuertes) con los valores centrales y fundamentales de la humanidad e integrarlos en su esencia. Algo así como las leyes básicas de la robótica de Asimov:

1. Nunca dañar a un ser humano y salvaguardarlo de cualquier daño a toda costa.

2. Obedecer siempre las órdenes de los humanos, a menos que esto viole la regla número uno

3. Proteger siempre la propia existencia, a menos que esto viole la regla número uno o dos.

Si bien estas reglas son útiles como base para formular reglas de alineamiento para los agentes de IA como un buen punto de partida para pensar, no serán suficientes por sí solas para hacer que los futuros agentes de IA poderosos y que actúen de forma autónoma sean sostenibles y sólidamente seguras contra todos los cambios futuros posibles.

Todavía tenemos tiempo

De acuerdo con la compañía de administración de sistemas y ciberseguridad, dado el estado actual de la investigación, aún no se ha llegado al punto en el que se debe temer una pérdida de control. Pero los efectos negativos del uso no regulado de la IA ya se están sintiendo.

“Industrias enteras corren el riesgo de ser devoradas por la automatización del trabajo cognitivo, las sociedades liberales con insuficiente alfabetización mediática corren el riesgo de ser víctimas de campañas de desinformación generadas por IA, los terroristas podrían obtener armas químicas o biológicas con la ayuda de aplicaciones de IA descontroladas. La lista de todos los peligros imaginables amenazados por el uso no regulado de aplicaciones de IA es muy larga. Por lo tanto, debemos convencer a nuestros legisladores de la urgencia de una regulación eficaz e inteligente lo antes posible”, finalizó Llerena.

Tendencias

Notas relacionadas

Hewlett Packard Enterprise (HPE) renueva arquitectura nativa de inteligencia artificial

En el marco del foro HPE Discover Barcelona 2023, Hewlett Packard Enterprise presentó una serie de soluciones de nube híbrida y nativas de inteligencia...

Con un enfoque en servicios HP realiza la edición XVII de Premios Monarca 

Durante la XVII edición de Premios Monarca, HP mostró su enfoque en la entrega de servicios administrados, entre los mayoristas galardonados destacaron Ingram Micro,...

Dell Technologies optimiza consumo de energía y resiliencia cibernética

Para mejorar su oferta de valor en resiliencia cibernética, Dell Technologies presentó una serie de mejoras a su plataforma de almacenamiento de alta densidad...

Schneider Electric presenta marco de métricas de sostenibilidad para centros de datos

Debido al aumento en demanda de procesamiento de inteligencia artificial (IA) y aprendizaje automático, el sector de los centros de datos se ha visto...

AWS re:Invent 2023 muestra visión general de cloud en Latinoamérica

Dentro de la agenda de AWS re:Invent 2023 destacó la visión general de cloud en Latinoamérica que se mostró al inicio del foro de...

IBM muestra avances en proyectos de computación cuántica

Dentro de la agenda del evento IBM Quantum Summit, el proveedor dio a conocer 'IBM Quantum Heron', un procesador cuántico que es parte de...

Eaton Energyaware, un mundo completamente nuevo para la energía de respaldo

La solución de EnergyAware de Eaton combina tecnología UPS probada con funciones avanzadas de almacenamiento de energía. Con él pueden protegerse equipos valiosos de...

EPE celebró 25 años de éxitos y satisfacciones

Equipos y Productos Especializados (EPE) celebró 25 años en el mercado. Evento que reunió a cerca de 250 personas de entre clientes, aliados de...

Gestión del inventario y transformación digital: pilares de éxito en industrial

En un mundo empresarial en constante evolución, la conectividad y la tecnología son los cimientos sobre los cuales se construye el éxito de las empresas del...

ICREA reconoció las mejores prácticas de los Centros de Datos de América Latina

El International Computer Room Experts Association (ICREA), reconoció las mejores prácticas de los Centros de Datos mexicanos y de América Latina que aplican, como parte fundamental de...
CodePen - Cookies Popup UI Design
cookies-img

En este sitio utilizamos cookies

Esto para garantizar una buena experiencia en tu navegación. Si estás de acuerdo da click en «Aceptar todo».