ventaja-competitiva-desarrollo-tecnologico

La ética y valores son un eslabón primordial para el desarrollo tecnológico

Pensar en la tecnología como un elemento aislado de la ética y los valores de la sociedad, así como de la responsabilidad misma es una idea poco coherente. En este punto se hace necesario aplicar estos tres conceptos, no sólo a nivel de estrategia empresarial, sino también al desarrollo tecnológico que permita fortalecer las innovaciones que después puedan ser bien recibidas por la sociedad.

Un buen ejemplo de aplicación de estos conceptos lo tiene la aviación civil, que durante 2017, rompió el record de seguridad al llegar a 35,6 vuelos sin una sola víctima mortal. Más, sin embargo, esta buena racha se rompió entre 2018 y 2019, debido al mal funcionamiento de un nuevo modelo de avión. Es el caso de Boeing 737 Max, caso que fue noticia en varios titulares a nivel mundial y puso en duda la seguridad de los nuevos modelos de avión. Este modelo incorporaba un software denominado MCAS (Maneuvering Characteristics Augmentation System), que permitía optimizar el perfil de vuelo y mantener la aeronave en una trayectoria segura. Se conoce poco de cuales fueron las razones por que ocurrieron los accidentes, pero se deduce que fue debido a la poca importancia que le dieron al usuario y de aspectos socioculturales y de ética. Poco y nada fue lo que interactuaron los pilotos con el sistema, no contaron con una adecuada inducción que los hiciera familiarizarse con la tecnología, resultando en un escenario que indujo al fracaso.  

Este tipo de casos son los que denotan la importancia de difusión de los nuevos sistemas, además de su aceptación social; de nada sirve contar con lo último en tecnología, si la sociedad no la acepta y no la sabe aplicar. Para esto se necesita todo un proceso de rigurosa difusión, formación y adopción, uno que evite al máximo este tipo de catástrofes.

En Tecnalia, como centro de investigación y desarrollo tecnológico, estamos a la vanguardia del buen desempeño de estas tecnologías, y por supuesto no somos ajenos a los temas de ética y responsabilidad que implica introducir una nueva tecnología a la sociedad. Entendemos que, un tema tan álgido como lo es la IA, no se puede tomar a la ligera, las posibilidades que ofrece este tipo de tecnología son bastas, pero no se pueden abarcar todas al mismo tiempo, es necesario quemar varias etapas, hacer estudios rigurosos e innumerables testeos que garanticen la seguridad de su aplicación.

Hay muchos sectores a los que la IA puede beneficiar, y de hecho ya lo hace. En el campo de la medicina, por ejemplo, una IA es alimentada con un gran número de electrocardiogramas, y la misma puede predecir el tiempo de vida de 400.000 pacientes con una alta tasa de fiabilidad, que como funciona su lógica de aplicación es el gran misterio, debido en varias ocasiones a temas de propiedad intelectual y anonimidad de los datos usados.

Sin embargo, en este punto se hace necesaria la IA que pueda explicarse a sí misma, de manera que podamos entender mejor el mundo que nos rodea. No es suficiente con entender exclusivamente su funcionamiento técnico, sencillamente porque nuestra sociedad no funciona así. No somos un conjunto de personas que funciones con correlaciones estadísticas. Por esta razón es necesaria la aplicación de una tecnología integral que sea abierta, transparente, integral, responsable, democrática y susceptible a cambios, basados en valores que defiendan los derechos humanos. Sencillamente no es viable el desarrollo de tecnologías que vayan en contra del desarrollo social.

Al día de hoy varias organizaciones y países propenden por un desarrollo tecnológico responsable y ético, la CE, por ejemplo impulsó el concepto de Investigación e Innovación Responsables, que tiene como objetivo la alineación de procesos y productos de la investigación e innovación, con las demandas de la sociedad. Países como China y Australia, también viene desarrollando iniciativas similares a esta.

El desafío de aquí en adelante es, entonces, que la investigación y desarrollo tecnológicos vayan guiados por la ética y la responsabilidad, de manera que podamos responder a los retos que enfrenta actualmente la sociedad.