A pesar de que “no hay maldad detrás de los modelos de Inteligencia Artificial”, sí es muy importante establecer marcos dentro de los cuales ésta se pueda desarrollar y que prevalezca el modelo de datos abiertos para que todo el mundo pueda obtener beneficios de la creación en esta tecnología.

Xavier Colomer director de IA en NTT DATA aseguró que en el contexto del desarrollo de esta tecnología, “el humano no va a desaparecer, sino que va a poder hacer muchas más cosas con una calidad que no podría antes; se trata de hacer más y mejor en menos tiempo”.

Durante la presentación de la séptima edición del informe “El futuro al descubierto”, fue claro al señalar que no ve de ninguna manera un futuro catastrófico donde la IA “piense” por sí sola para dañar a la humanidad. “simplemente, se tienen que cuidar las instrucciones que se le dan a la IA, sin olvidar que ésta no piensa”.

Por el contrario, genera respuestas con sentido a partir de la información que se le entrega; “si le pongo datos con mala intención, ese será el resultado y por eso hay medidas, marcos de referencia por donde la tecnología debe de transitar y así que rebase esos parámetros”.

Al presentar innovaciones que NTT DATA está desarrollando en materia de agentes de IA y robótica, el directivo insistió en la importancia del llamado “open source”, para que los desarrolladores puedan crear casos de uso que ayuden al progreso de la humanidad y “permitan tener una línea para medir si algunos modelos se llegan a desviar”.

En todo caso, la robótica y la IA, prometen ayudar al ser humano a hacer cosas cuyo cuerpo no podría por sí sólo y cuya mente no alcanzaría con tanta eficiencia en tan corto tiempo y así, ser más productivos, sin que eso implique sustituir a las personas.

Tras reconocerse abiertamente entusiasta de la IA, descartó que esta tecnología pueda actuar con dolo contra las personas como algunos temen, pues “no hay conciencia en los modelos. Sólo convierten textos en acciones, pero no hay conciencia que nos tenga que preocupar en el presente”.

Luego de presentar una solución denominada “personas sintéticas”, que consiste en “clones digitales” capaces de interactuar con otros agentes en nombre de las personas, por ejemplo, en una gran convención con miles de invitados y cientos de stands, aseguró que estos agentes “no nos pueden suplantar de un modo autónomo”.

Se trata sólo de representaciones digitales de las personas a las cuales se alimenta, por ejemplo, con el perfil profesional de alguien en Linkedin, para poder interactuar con otros sólo en ése ámbito, para hacer una tarea específica, en este caso, “networking”, sin que eso signifique que suplante a la persona.

Sin embargo, durante la misma presentación, Víctor León, director de Tecnología y responsable de innovación tecnológica de NTT DATA para Ibero América, reconoció que detrás de estos temas siempre hay dilemas que se deben de atender y tomar en cuenta para el correcto diseño de las herramientas.

Cuestionado sobre el uso de la IA por parte de la ciberdelincuencia organizada, que permite cometer delitos digitales, reconoció que las áreas de ciberseguridad tienen hoy “un gran desafío para gobernar todo el contexto”, especialmente porque las áreas de vulnerabilidad se están incrementando.

Por ejemplo, con el uso de los agentes de IA y los robots que prometen ayudar a las personas en su día a día en todos los ámbitos, con mayor énfasis en la manufactura, logística, almacenaje y trabajos riesgosos, se incrementan las superficies de ataque que la delincuencia puede aprovechar.

Todavía hay simulaciones hechas para el phishing “en las que mucha gente cae”, pues además de texto ahora tienen voz y video; es decir, se amplían las modalidades de ataque y por ello es muy importante la educación, la seguridad, los modelos de implementación, la gobernanza y las soluciones que las propias organizaciones puedan crear para controlar la información.

Otro desafío importante es el consumo energético de las máquinas, tema que se debe tener en cuenta, pero, con todo, el hecho de que las personas en sus trabajos tengan acceso a más de un agente de IA sobre los cuales se puedan montar soluciones nuevas, sin duda derivará en la creación de más productos, servicios y oportunidades de negocio.

Uno de los ejemplos más notables es la medicina, donde los agentes de IA pueden llegar al punto de crear medicamentos personalizados con menos efectos secundarios, a través de herramientas que cada día son más accesibles económicamente.

https://consumotic.mx/tecnologia/ni-con-maldad-ni-dolo-la-ia-actua-conforme-a-instrucciones/