La resiliencia empieza por nosotros: vías éticas hacia la innovación y la confianza en la IA

La IA responsable requiere algo más que controles técnicos. Exige marcos éticos, una gobernanza transparente y la incorporación del juicio humano en los puntos críticos de decisión para gestionar el riesgo y la responsabilidad. 

Los seres humanos aportan ética, contexto y razonamiento que las máquinas no pueden replicar. La supervisión humana permite un despliegue de la IA más seguro, más fiable y más digno de confianza. 

Los marcos eficaces incluyen la gobernanza de datos, la validación de modelos, la detección de sesgos, la explicabilidad, la supervisión continua, los puntos de control con intervención humana y los procedimientos de escalado basados en el riesgo. 

Los sistemas totalmente autónomos aumentan el riesgo en escenarios complejos o de alto riesgo. La supervisión humana sigue siendo esencial para ayudar a prevenir errores, usos indebidos o consecuencias no deseadas.   

La IA ética genera confianza entre los usuarios, los reguladores y la sociedad, lo que permite una innovación sostenible en lugar de beneficios a corto plazo que generan riesgos a largo plazo. 

Por favor, ve el vídeo aquí para consultar la transcripción con marcas de tiempo

00:12 – 00:15

Nuestro invitado tiene un currículum extraordinario.

00:15 – 00:19

Eh… Es la directora ejecutiva de Humane Intelligence.

00:19 – 00:26

También fue la enviada científica de Estados Unidos para la inteligencia artificial, nombrada por el presidente Biden.

00:26 – 00:30

Y estoy deseando presentarla y que se una a nosotros, la Dra.

00:30 – 00:32

Ruman Chowdhary.

00:42 – 00:44

Hola, buenos días.

00:44 – 00:45

Me alegro mucho de veros a todos.

00:45 – 00:47

Espero que hayáis disfrutado de los pretzels.

00:47 – 00:48

Me llamo Dr.

00:48 – 00:56

Aman Chowdhury, y ha sido fantástico escuchar todas las charlas y conversaciones, y ver de hecho algunas caras conocidas entre el público.

00:56 – 00:57

Hola.

00:58 – 01:03

Así que hoy estoy aquí para hablaros de las vías éticas hacia la innovación y la confianza.

01:04 – 01:08

¿Cuántos de vosotros sabéis quién es este hombre?

01:09 – 01:18

Normalmente me encuentro con que, entre el público, quizá una persona lo sepa, pero a menudo me encuentro con muchas miradas de desconcierto cuando digo que él es la razón por la que todos estamos vivos hoy.

01:21 – 01:22

Así es.

01:22 – 01:23

Vale, pues voy a explicarlo.

01:23 – 01:25

Me llamo Stanislav Petrov.

01:25 – 01:31

Y en 1983, era lo que hoy llamaríamos «el factor humano en el proceso».

01:31 – 01:38

Era el encargado de recibir la información de un sistema técnico que indicaba si Estados Unidos había lanzado o no un arma nuclear.

01:38 – 01:39

Estaba en el bando ruso.

01:39 – 01:51

Y su trabajo consistía en, desde su búnker, recibir la señal de que se había lanzado un misil y, a continuación, pulsar el botón para… bueno, si recuerdas tus clases de historia universal o de ciencias sociales, ya sabes lo que es…

01:51 – 01:51

se conoce como

01:51 – 01:52

destrucción mutua asegurada.

01:52 – 01:56

Y todos tenemos mucha, mucha suerte de que no lo hiciera.

01:56 – 02:02

Y me encanta esta historia porque, cuando pensamos en la intervención humana en la tecnología, no lo analizamos con mucha profundidad.

02:02 – 02:05

Simplemente pensamos: «Hay una persona al otro lado y va a hacer tal y tal cosa».

02:05 – 02:07

Pues bien, él era un «humano en el bucle».

02:07 – 02:10

Y menos mal que no se limitó a pulsar el botón.

02:10 – 02:17

Y utilizó algo muy, muy propio de los seres humanos: las pistas contextuales y el pensamiento crítico.

02:17 – 02:20

Y se quedó allí sentado y pensó: «Bueno, la Guerra Fría lleva décadas en marcha».

02:20 – 02:21

Y no ha habido mucho…

02:21 – 02:25

escalada, ¿por qué iba Estados Unidos a detonar un arma nuclear?

02:25 – 02:27

Y decidió no pulsar el botón.

02:27 – 02:31

Y esa es la razón por la que, al final, no acabamos entrando en una guerra nuclear.

02:31 – 02:32

Es increíblemente importante.

02:32 – 02:37

Y lo que es absolutamente alucinante es que muy poca gente sabe quién es este hombre.

02:37 – 02:48

Y me encanta esta historia, una vez más, porque demuestra realmente cómo el pensamiento crítico humano no puede ser sustituido ni siquiera por la tecnología más avanzada.

02:49 – 02:52

Así que, cuando hablamos de inteligencia artificial, ¿a qué nos referimos?

02:52 – 02:53

En su época, el Sr.

02:53 – 02:59

Petrov estuvo, eh, expuesto a algunas de las tecnologías más avanzadas.

02:59 – 03:08

Y quizá resultara intimidante o aterrador que un ser humano pudiera plantar cara y desafiar los resultados de una herramienta tecnológica tan sofisticada.

03:08 – 03:11

Y así es como a veces nos imaginamos la inteligencia artificial.

03:11 – 03:16

Y este es el tipo de titulares que quizá hayas abierto y visto hoy en tu aplicación de noticias.

03:16 – 03:19

La solución a nuestra crisis educativa podría ser

03:19 – 03:31

la IA. ¿Son los educadores los siguientes en la lista para que los robots tomen el control? ¿Serán los abogados la próxima profesión sustituida por los ordenadores? Y la omnipresente IA es tan eficaz diagnosticando la enfermedad X como cualquier otro

03:31 – 03:33

ser humano o un médico.

03:33 – 03:36

Y hay un par de cosas que quiero señalar sobre estos titulares.

03:36 – 03:37

Así que, número uno.

03:37 – 03:42

Probablemente parezca que estos titulares proceden de los últimos tres años, una revolución de la IA generativa.

03:42 – 03:45

En realidad, todas ellas datan de entre 2018 y 2020.

03:45 – 03:49

Llevo ya casi una década en este campo, bueno, concretamente en el de la IA responsable.

03:49 – 03:52

Llevo más de 15 años en el sector tecnológico.

03:52 – 03:56

Y parece que, con cada nueva versión, vemos estos titulares una y otra vez.

03:56 – 04:00

Y, por supuesto, con cada nueva versión, la tecnología se vuelve cada vez más sofisticada.

04:00 – 04:04

Pero hay un par de cosas aquí que me parecen bastante problemáticas.

04:04 – 04:07

En primer lugar, está esta antropomorfización de la tecnología.

04:07 – 04:20

Si lees estas frases, parece como si hubiera una especie de persona con IA dentro de una máquina que realmente quiere ser médico, profesor o abogado, y que va y arrastra a tu hijo…

04:20 – 04:21

maestro de tu hijo a la fuerza, mientras este se resiste y grita.

04:21 – 04:24

Quiero decir, ¿una rebelión de los robots? ¡Por Dios!

04:24 – 04:25

Qué dramático.

04:25 – 04:29

Pero, lo más importante, ¿dónde está la persona en esta frase?

04:29 – 04:37

En todos estos titulares —y, repito, son titulares muy comunes que probablemente ves todos los días—, el ser humano es simplemente un elemento pasivo

04:37 – 04:41

receptor pasivo de lo que la tecnología ha decidido hacer.

04:41 – 04:44

Y eso no podría estar más lejos de la realidad.

04:44 – 04:50

Así que lo que ha pasado es que la gente cree que la IA es una especie de horda de robots.

04:50 – 04:51

Pero no es así.

04:51 – 04:55

Es algo que tiene buena pinta.

04:55 – 04:56

¿Puedo volver atrás, por favor?

04:56 – 04:56

Lo siento.

04:58 – 04:59

A ver si eso ocurre.

04:59 – 05:00

Ya está, gracias.

05:00 – 05:11

La gente piensa que la IA son esas hordas de robots que vienen a cambiar nuestras vidas, a quitarnos los trabajos y quizá a enseñar a nuestros hijos, pero la realidad es que, si eres desarrollador como yo, es…

05:11 – 05:13

se parece un poco más a esto.

05:13 – 05:22

Y, de hecho, la realidad es que esos titulares hiperbólicos no reflejan la verdad, que es que hay mucho esfuerzo y trabajo humano detrás de todo, desde la recopilación de datos hasta su selección,

05:22 – 05:29

limpieza, seguridad, eh, programación, depuración, y luego el lanzamiento del producto, su ampliación y su entrega,

05:30 – 05:49

y la implementación; todo eso requiere, de hecho, personas.

05:49 – 05:50

Así que no nos limitamos a considerar a los educadores como meros eslabones en la cadena de la toma de poder por parte de los robots.

05:50 – 05:52

Hay muchos pasos que deben dar las personas mientras tanto.

05:52 – 05:58

Hablamos de cosas, y cuando hablamos, cuando hacemos cosas humanas,

05:58 – 06:04

interactuamos directamente con esta tecnología que parece tan futurista y tan capaz.

06:04 – 06:11

Pues bien, lo que ocurre es que empezamos a impulsar una tecnología que, en realidad, no tiene en cuenta lo que los seres humanos podrían necesitar.

06:11 – 06:22

Y luego, concretamente, cuando la tecnología no cumple realmente con esas narrativas fantásticas que quizá se prometen en una presentación, lo que ocurre es que, en realidad,

06:22 – 06:28

damos por sentado que los seres humanos y la sociedad tienen que adaptarse a las limitaciones de la tecnología,

06:28 – 06:34

en lugar de pensar en cómo podemos desarrollar la tecnología para que se adapte a las necesidades de la sociedad.

06:34 – 06:37

Y eso es lo que yo denomino el «ser humano adaptado».

06:37 – 06:44

Así que, cuando pensamos en este «ser humano adaptado», una de las formas en que abordamos la tecnología de la IA es preguntándonos: ¿en qué destaca?

06:44 – 06:46

¿De qué es capaz?

06:46 – 06:50

Y hay algunas cosas en las que el aprendizaje automático y la IA son realmente bastante buenos.

06:50 – 06:55

Así que todo este preámbulo no quiere decir que la IA no sea capaz o que el aprendizaje automático no pueda hacer cosas.

06:55 – 06:57

De hecho, pueden hacer cosas bastante sorprendentes.

06:57 – 07:02

Pero lo importante aquí es distinguir entre aquello en lo que las personas son realmente buenas y aquello en lo que la tecnología es realmente buena.

07:02 – 07:03

Entonces, ¿en qué destaca realmente la tecnología?

07:03 – 07:06

Se le da bien identificar patrones generales.

07:06 – 07:08

Se le da bien analizar

07:08 – 07:10

e identificar elementos que sean similares entre sí.

07:10 – 07:13

Eso constituye, básicamente, la mayor parte de los fundamentos de la visión artificial.

07:13 – 07:17

Y, en general, es consistente, dependiendo de la tasa de error.

07:17 – 07:27

Así que, cuando desarrollamos IA —y, repito, llevo bastante tiempo dedicándome a esto—, una forma simplificada de explicarlo es decir que recopilamos una gran cantidad de datos para crear un modelo para la persona media de un…

07:27 – 07:29

tipo concreto.

07:29 – 07:32

Y podemos recopilar datos muy específicos.

07:32 – 07:35

Y eso no quiere decir que lo hagamos pensando en la persona media en general.

07:35 – 07:37

Pero definimos quiénes somos tú y yo y el

07:37 – 07:41

persona que está sentada a tu lado como parte de un perfil de cliente o de una comunidad.

07:41 – 07:45

Y quizá se base en 10, 20 o 100 puntos de datos diferentes.

07:45 – 07:50

Y entonces das por hecho que se han hecho algunas suposiciones sobre los datos que faltan.

07:50 – 07:50

De acuerdo.

07:50 – 07:55

Bueno, voy a contaros una historia sobre lo que significa desarrollar para la persona de a pie.

07:55 – 08:04

¿Y qué significa siquiera «persona corriente», incluso si se trata de un subgrupo hiperespecífico de personas que uno podría pensar que es muy, muy predecible?

08:04 – 08:07

Por cierto, una de las cosas que más me gustan es contar anécdotas, historias y dar charlas

08:07 – 08:07

sobre eso.

08:07 – 08:07

eso.

08:07 – 08:07

eso.

08:07 – 08:11

inteligencia artificial, entonces no tiene nada que ver con la inteligencia artificial.

08:11 – 08:19

Uno de los mayores errores que cometemos es pensar que esta tecnología es nueva y que todos los problemas a los que nos enfrentamos son cosas que nunca vamos a ver, que nunca hemos visto antes.

08:19 – 08:21

Nunca nos hemos planteado estas preguntas.

08:21 – 08:31

Y aunque la IA está introduciendo nuevos paradigmas, nuevas preguntas y nuevos retos, los problemas que estamos resolviendo no son cuestiones totalmente nuevas.

08:31 – 08:32

Esta es una de mis historias favoritas.

08:32 – 08:37

En la década de 1940, los accidentes de pilotos de línea aérea alcanzaron su máximo histórico.

08:53 – 09:07

Así que la Fuerza Aérea de EE. UU. acudió a los fabricantes de asientos de avión y les dijo: «Mirad, necesitamos que rediseñéis estos asientos porque el perfil medio de los…»

09:07 – 09:08

nuestros pilotos ha cambiado».

09:08 – 09:13

Por supuesto, si pensamos en quiénes son estos pilotos, en realidad constituyen un subconjunto bastante reducido de personas.

09:13 – 09:17

Son hombres jóvenes, probablemente de entre 18 y 30 años como máximo.

09:19 – 09:20

Goza de buena salud.

09:20 – 09:22

Están en plena forma, etcétera.

09:22 – 09:24

Y en aquella época no había mujeres piloto.

09:24 – 09:26

Estaría bastante estandarizado.

09:26 – 09:33

Así que en la década de 1940 hicieron lo mismo que en la de 1920, es decir, reclutaron a más de 4.000 de estos pilotos.

09:33 – 09:36

Los evaluaron en 10 parámetros diferentes.

09:36 – 09:37

¿Te suena esto?

09:37 – 09:43

Si hay algún científico de datos entre los presentes, esto parece una forma bastante razonable de diseñar un buen asiento.

09:43 – 09:48

Así que, con más de 4.000 hombres y 10 puntos de datos diferentes, calcularon la media y diseñaron un asiento.

09:49 – 09:59

Y no sirvió a nadie; ni uno solo de esos más de 4.000 pilotos se sentó en ese asiento y dijo: «Sí, este me resulta cómodo».

09:59 – 10:04

Y la razón es que esta idea de «media» se refiere a la persona del percentil 50.

10:04 – 10:07

Si conoces la curva de campana, es la parte más ancha de la misma.

10:07 – 10:11

curva, eh, pero eso no es necesariamente una persona real que exista.

10:11 – 10:20

Es una persona imaginaria que es una amalgama de todos los demás puntos de datos que has recopilado sobre personas como ella.

10:20 – 10:22

Así que lo redujeron a tres dimensiones.

10:22 – 10:26

¿Y qué pasaría si simplemente tomáramos tres puntos de datos y tuviéramos más datos del curso, verdad?

10:26 – 10:29

Eso solo se ajustaba a alrededor del 13 % de los pilotos.

10:29 – 10:34

Bueno, entonces la Fuerza Aérea volvió a la carga y dijo: «Vale, fabricantes de aviones, esto no nos sirve».

10:34 – 10:36

Porque, claro, se trata de una cuestión de vida o muerte.

10:36 – 10:41

Estos asientos tienen que ser realmente funcionales y útiles, y los pilotos se enfrentan a situaciones muy extremas.

10:41 – 10:43

Así que esto no es algo que se haya añadido a posteriori.

10:43 – 10:50

Así que volvieron y dijeron: «En realidad, en lugar de adaptarlos a la persona del percentil 50, la persona media, lo que quiero que hagáis es crear…»

10:50 – 10:53

que los asientos se adapten al 95 % de todos los pilotos.

10:54 – 10:57

lo cual supone un cambio radical en la forma de medir el éxito, ¿verdad?

10:57 – 11:02

Porque gran parte de lo que estás creando consiste en definir qué es el éxito y cómo se ve lo bueno.

11:02 – 11:09

Así que redefinieron el concepto de «bueno» y se preguntaron: en lugar de fabricar un asiento para el piloto medio, ¿por qué no fabricamos un asiento que se adapte al 95 % de todos los pilotos?

11:09 – 11:13

Y, de nuevo, se trata de un grupo reducido de personas sin mucha variación.

11:13 – 11:19

Así que todos los fabricantes de aviones respondieron: «Es imposible, no se puede hacer, nunca se ha hecho antes, nos arruinaremos».

11:19 – 11:21

Es una idea absolutamente descabellada.

11:21 – 11:24

Y, claro, se trata de la Fuerza Aérea, así que pueden hacer lo que quieran.

11:24 – 11:27

Como que… vale, está bien, buscaremos a otra persona que lo haga.

11:27 – 11:28

Y eso es lo que hicieron.

11:29 – 11:31

es que simplemente fabricaron asientos ajustables.

11:31 – 11:42

Así que cada vez que te subes a tu coche, a un autobús o a un avión y puedes hacer cosas como mover el reposabrazos, levantar el reposacabezas o inclinar el asiento de diferentes maneras, esa es una de las razones por las que alguien

11:42 – 11:49

que mide 5’3 como yo y un hombre de estatura media de 5’10 puedan, de hecho, subirse al mismo coche y conducirlo.

11:49 – 11:56

Es porque el ejército se opuso y dijo claramente: «Queremos que reconsideréis vuestro diseño».

11:56 – 11:59

Queremos que os replanteéis cómo estáis fabricando esta herramienta tecnológica.

11:59 – 12:06

De nuevo, en lugar de decir que estamos creando algo para un perfil medio, vamos a decir que queremos que esto se adapte a un abanico más amplio de personas.

12:06 – 12:12

Un cambio radical que, de hecho, ha dado lugar a productos mejor diseñados y con mejores resultados.

12:12 – 12:13

¿Cuáles son, pues, tus conclusiones principales?

12:13 – 12:22

Lo primero es que, para que la IA funcione, tenemos que pensar de forma radical y diferente sobre cómo personalizar y crear soluciones para nuestros usuarios.

12:22 – 12:26

La segunda es un cambio claro en cuanto a la rendición de cuentas y la responsabilidad.

12:26 – 12:29

Acuñé este término, «externalización moral», y está relacionado con

12:29 – 12:38

con esta antropomorfización de la inteligencia artificial, con la forma en que utilizamos expresiones que dan a entender que la IA tiene intenciones, que la IA tiene razón, cuando en realidad no tiene nada de eso.

12:38 – 12:41

Son los seres humanos quienes crean y ponen en marcha la tecnología.

12:41 – 12:49

En lugar de decir que estamos creando IA para sustituir a los abogados, lo que realmente está ocurriendo es que alguien está creando una empresa de tecnología jurídica.

12:49 – 12:56

Y se puede optar por desarrollar tecnología jurídica de forma que potencie al ser humano, o bien optar por desarrollarla con la intención de sustituirlo.

12:56 – 12:59

Y es una decisión impulsada por personas, una decisión impulsada por personas sobre cómo

12:59 – 13:00

se utiliza la tecnología.

13:00 – 13:08

Y, por último, para aprovechar las ventajas de la inteligencia artificial se requiere tanta inversión en el aspecto humano como en el técnico.

13:08 – 13:18

Así que, en lugar de considerar el hecho de que todos nuestros cuerpos tienen diferentes tamaños, formas y estaturas como un inconveniente, en realidad es una oportunidad para diseñar mejor y diseñar más

13:18 – 13:19

de forma más amplia.

13:20 – 13:22

Entonces, ¿cómo afectará la IA a nuestra sociedad?

13:22 – 13:33

Diría que la charla que más me piden que dé —y esto empezó este año— es sobre la IA ética y responsable; he dado muchas charlas y he hablado mucho sobre este tema, pero la

13:33 – 13:37

el futuro del trabajo en 2025 se ha convertido realmente en el tema que más me solicitan.

13:37 – 13:47

Ah, y me alegra poder decir que, de hecho, hay mucha evidencia empírica; se están llevando a cabo muchos trabajos realmente excelentes en los que la gente habla de, ya sabes,

13:47 – 13:50

están midiendo y estudiando cuantitativamente el impacto de

13:50 – 13:51

IA en el ámbito laboral.

13:51 – 13:59

Así que, por un lado, de nuevo, lo que quizá veas en las noticias cuando abras tu lector de noticias es algo así como gente que reclama una renta básica universal, gente que dice que habrá

13:59 – 14:01

que no quedarán puestos de trabajo para nadie.

14:01 – 14:07

Y lo que estamos descubriendo, en cambio, es que en realidad se trata de una conversación bastante más detallada.

14:07 – 14:10

Así que voy a hablaros de tres artículos diferentes que me encantan.

14:10 – 14:13

En realidad hay bastantes artículos, pero hay tres que me encantan.

14:13 – 14:18

Quiero empezar con una visión general, como el impacto macroeconómico en todo el mundo durante los próximos 10 años.

14:18 – 14:20

Una visión de alcance medio, que es vertical

14:20 – 14:30

por sectores, y el estudio más detallado y experimental que se llevó a cabo en una empresa concreta para ver cómo reaccionaban los empleados y cómo respondían al trabajar con IA, y cómo…

14:30 – 14:31

eso les afectó.

14:31 – 14:40

También empezaré diciendo que doy charlas en muchas universidades y que, de hecho, existe una gran preocupación, muy justificada, entre los jóvenes.

14:40 – 14:50

Y lo que estamos observando —y, de nuevo, este es el primer año en el que realmente lo vemos— es que a la Generación Z que se incorpora al mercado laboral en busca de empleo, sobre todo de puestos de nivel inicial, le está costando más porque

14:50 – 14:53

la inteligencia artificial es capaz de realizar algunas de las tareas más básicas.

14:53 – 14:56

Y no se trata solo de investigar y redactar.

14:56 – 14:58

De hecho, se trata principalmente de programación.

14:58 – 15:02

Así que en lo que la IA es realmente, realmente buena es en la programación de nivel básico.

15:02 – 15:07

Ahora bien, se siguen necesitando desarrolladores con más experiencia para garantizar que el código sea robusto, que funcione, etcétera.

15:07 – 15:11

Pero muchos de los puestos de nivel junior simplemente no están siendo sustituidos.

15:11 – 15:17

Así que, a medida que la gente va adquiriendo experiencia y asciende, sus puestos de nivel junior simplemente no se están cubriendo.

15:17 – 15:20

Y eso es preocupante de cara al futuro.

15:20 – 15:27

Así que el primer artículo del que quiero hablar es de una economista laboral, la profesora Dara Nesemoglu, del MIT.

15:27 – 15:32

Ha realizado un estudio y, de nuevo, es alguien que lleva mucho, mucho tiempo dedicándose a la economía.

15:32 – 15:37

Y se ha adentrado de verdad en el ámbito de la IA pensando en el impacto que tiene sobre el trabajo y la productividad.

15:37 – 15:45

Así que analizó lo que se denomina «productividad total de los factores», que viene a ser más o menos la suma del PIB de todos los países; eso sería, en cierto modo, la PTF.

15:45 – 15:50

Ah, y lo que ha calculado es que, en los próximos 10 años, va a ser lo que él denomina

15:50 – 16:01

Es decir, un impacto no desdeñable, pero modesto, por debajo del 1 %, lo que quizá no parezca mucho, pero, por cierto, es menos del 1 % del PIB total de todo el mundo, así que es bastante significativo.

16:01 – 16:03

Así pues, se trata de un grado de automatización bastante significativo.

16:03 – 16:06

Pero él profundizó aún más para preguntarse: ¿qué es lo que se está automatizando?

16:06 – 16:13

Y señala que lo que mucha gente no tiene en cuenta es que, en realidad, son más los puestos de oficina que los de trabajo manual los que se están automatizando.

16:13 – 16:14

Y esto es interesante.

16:14 – 16:19

Esto pone realmente de manifiesto uno de los aspectos más radicales de la IA generativa.

16:32 – 16:33

Y punto.

16:33 – 16:36

Y… y… y creo que ese es un punto importante.

16:36 – 16:36

Y punto.

16:36 – 16:38

Y es un punto realmente importante.

16:38 – 16:50

Y un punto importante. Y un punto realmente importante.

16:50 – 16:50

Y

16:50 – 16:54

Lo que se está automatizando es, en realidad, el trabajo intelectual, el trabajo intelectual básico.

16:54 – 16:56

La verdad es que no habíamos pensado en eso antes.

16:56 – 16:59

No hemos tenido que lidiar con las consecuencias de eso.

16:59 – 17:08

Y, por cierto, volviendo a la Generación Z, algunos de vosotros, si tenéis hijos de esa edad, quizá sepáis que vuestros hijos o sus amigos podrían estar pensando en buscar trabajos manuales.

17:08 – 17:14

Porque, cada vez más, los jóvenes no ven el valor de la educación universitaria si la IA es realmente capaz de hacer ese trabajo.

17:14 – 17:20

Pero una IA nunca va a ser capaz de cortar el césped, arreglar las tuberías o diseñar un…

17:20 – 17:21

tejado.

17:21 – 17:32

Y lo que ven es que, por muchas razones, un trabajo manual les parece a muchos de ellos mucho más, ya sabes, predecible y fiable que intentar aspirar a lo más alto para

17:32 – 17:40

algún tipo de puesto de vicepresidente sénior que puede que se materialice o no, porque si no consigues tu primer trabajo, nunca vas a ascender.

17:40 – 17:48

Así que, ya sabes, señaló que se prevé que la IA amplíe la brecha entre los ingresos del capital y los del trabajo, pero también que va a haber este valor social negativo que realmente tenemos

17:48 – 17:50

tener en cuenta.

17:50 – 18:02

cosas más interesantes que estoy observando es que, a medida que seguimos evaluando el valor de la IA, la gente tiene cada vez más en cuenta la externalidad negativa sobre la sociedad como un factor a considerar.

18:02 – 18:09

Porque, ¿qué sentido tiene crear una máquina de productividad si al final todos nos vemos completamente incapacitados?

18:09 – 18:14

Existe una gran preocupación por cuestiones como la dependencia excesiva, o lo que la gente denomina «psicosis de la IA».

18:14 – 18:20

Eh… estamos viendo que están surgiendo tecnologías educativas, y eso suscita preocupación

18:20 – 18:22

de que los jóvenes dependan en exceso de la tecnología.

18:22 – 18:28

¿Cómo podemos abordar estas consideraciones a la hora de desarrollar tecnología que siga siendo beneficiosa en general?

18:29 – 18:37

El segundo artículo del que me gustaría hablar es, de hecho, de 2023, y lo ha elaborado un equipo de OpenAI que colaboró con otro grupo de economistas.

18:37 – 18:41

Se titula «GPTs» y analiza diferentes sectores.

18:41 – 18:49

Y, en lugar de afirmar de manera generalizada que todos estos puestos de trabajo van a ser automatizados, se preguntaba: «Bueno, sector por sector, ¿qué es lo que tiene más probabilidades de ser automatizado?».

18:49 – 18:59

Y la conclusión que hay que sacar es que, para alrededor del 80 % de la población activa, se automatizaría aproximadamente el 10 % de sus tareas, y que, para aproximadamente el 19 %, se vería afectada aproximadamente la mitad de sus tareas.

18:59 – 19:04

Y eso se ajusta bastante a la realidad; eso fue hace unos años y, en cierto modo, coincide con las tendencias que estamos observando.

19:04 – 19:13

Creo que muchos de nosotros utilizamos herramientas de IA para tareas de productividad muy básicas, como revisar nuestras notas o, tal vez, elaborar resúmenes de reuniones.

19:13 – 19:18

No te está quitando el trabajo y, de hecho, probablemente te esté devolviendo un poco de tiempo extra.

19:18 – 19:22

Probablemente, la mayoría de los que estamos en esta sala formamos parte de ese 80 %.

19:22 – 19:29

Ese 19 % de trabajadores que ven cómo el 50 % de su trabajo se automatiza, señalaron profesiones como el periodismo o los asistentes jurídicos.

19:29 – 19:35

Se trata más bien de puestos relacionados con la investigación y el conocimiento que quizá no requieran una gran especialización.

19:36 – 19:37

Pasemos ahora al tercer artículo.

19:37 – 19:46

Y, de nuevo, uno de los temas más importantes que la gente quiere entender es qué significa la inteligencia artificial para mi plantilla si yo la utilizo, si mis empleados la utilizan, si mi…

19:46 – 19:47

empresa la adopta?

19:47 – 19:56

Pues bien, la gran mayoría te dirá que la respuesta es que la combinación de ser humano más IA es mejor que el ser humano sin IA o la IA por sí sola.

19:56 – 19:58

Y me encanta este estudio porque, en primer lugar, tiene un nombre fabuloso.

19:58 – 20:00

Se llama «El compañero de equipo cibernético».

20:00 – 20:04

Se trata de un estudio de caso realizado en la Harvard Business School en colaboración con Procter & Gamble.

20:04 – 20:06

Y diseñaron un experimento controlado aleatorio.

20:06 – 20:17

En el experimento, en el que participaron unos 800 empleados de P&G, se organizó un hackatón de varios días y, básicamente, se dividió a los participantes en grupos —ya fueran equipos o personas individuales—; a algunos se les asignó la IA y a otros no.

20:17 – 20:24

Y lo que me gusta de este artículo es que, a menudo, muchos de los artículos sobre, eh, la IA en el lugar de trabajo tratan sobre la productividad.

20:24 – 20:30

Y realmente, realmente, realmente detesto esa medida, porque, eh, hay una cosa que la IA puede hacer: simplemente producir.

20:30 – 20:31

Eso es todo lo que hace.

20:31 – 20:34

Y, de hecho, a menudo se equivoca con total seguridad.

20:35 – 20:36

Se necesita a un ser humano para ser

20:36 – 20:38

para entender si este resultado…

20:38 – 20:43

Quiero decir que ahora tenemos una palabra para ello: lo llamamos «mano de obra de baja calidad», «IA de baja calidad», ¿verdad?

20:43 – 20:45

Es, literalmente, el término que se utiliza ahora.

20:45 – 20:50

Así que limitarse a medir la producción pura no te da realmente ninguna respuesta.

20:50 – 20:57

Pero lo que evaluaron fueron aspectos como la calidad del trabajo, el tiempo hasta su finalización y, lo que es más importante, la capacidad de ayudar a los trabajadores no expertos.

20:57 – 21:05

Porque, por otro lado, la preocupación de las personas con más experiencia —o al menos una de las opiniones— es que, bueno, quizá en el futuro ya no se necesite experiencia especializada.

21:05 – 21:06

Solo se necesitará

21:06 – 21:11

una persona sin experiencia, le añades un poco de IA y ya es igual que un desarrollador con experiencia.

21:11 – 21:13

Así que querían poner todo eso a prueba.

21:14 – 21:20

¿Y cómo lo hacen para que no tengas que leer un montón de complicados… eh… gráficos de barras?

21:20 – 21:22

Lo primero que analizaron fue la calidad media de las soluciones.

21:22 – 21:25

Recuerda que tomaron como referencia a la persona que no utilizaba IA.

21:25 – 21:27

Tienen los equipos sin IA.

21:27 – 21:29

Tienen el individuo más IA y el equipo más IA.

21:29 – 21:33

Así que verás que añadir IA supuso una cierta ventaja.

21:33 – 21:38

Así pues, el grupo individual sin IA claramente no obtuvo tan buenos resultados como cualquiera de los otros subgrupos.

21:38 – 21:41

Y si se les proporcionaba IA, solían obtener mejores resultados.

21:41 – 21:44

Pero, en realidad, no hay una diferencia muy apreciable entre

21:44 – 21:46

un individuo más IA y un equipo más IA.

21:46 – 21:50

Y recordad que voy a hablaros un poco de estadísticas ahora mismo.

21:50 – 21:53

La barra… bueno, no os preocupéis por dónde está realmente la barra.

21:53 – 22:00

En realidad es el término de error, esa línea que te indica el límite superior; esa es la zona prevista en la que va a situarse el valor.

22:00 – 22:09

Así que todo esto quiere decir que, si las barras se solapan significativamente —y así es—, las líneas negras probablemente correspondan a cifras bastante, bastante similares.

22:09 – 22:15

Así que lo segundo que analizaron fue si el hecho de que se tratara de un puesto clave tenía importancia o no.

22:15 – 22:19

¿Y qué pasaría si se tomara a una persona sin ninguna experiencia y se le proporcionara IA?

22:19 – 22:23

Eh… Bueno, la realidad es que eso no funciona del todo.

22:23 – 22:25

Y creo que, intuitivamente, todos lo sabemos.

22:25 – 22:27

De nuevo, me acabo de referir a la «chapuza» de la IA.

22:27 – 22:29

La IA se equivoca de forma muy convincente.

22:29 – 22:30

Parece más o menos inteligente.

22:30 – 22:39

Da la impresión de que le has dado a un niño —si has oído hablar del síndrome de Dunning-Kruger— que realmente padece el síndrome de Dunning-Kruger en su máxima expresión.

22:39 – 22:47

Se trata de sintetizar un montón de información sin contexto y, en cierto modo, darla a conocer, pero no tiene por qué ser algo bueno.

22:47 – 22:49

Es simplemente una cuestión de volumen.

22:49 – 22:59

Y lo que descubrieron, de forma abrumadora, fue que las personas y los equipos sin experiencia o con experiencia limitada recibían cierto impulso, pero en realidad seguías necesitando gente presente en la sala

22:59 – 23:05

que entendieran los resultados y lo que se necesitaba para poder aprovechar realmente las ventajas de esta tecnología.

23:05 – 23:07

Y, por último, por supuesto, el ahorro de tiempo.

23:07 – 23:09

Esto es muy interesante, y es que…

23:09 – 23:11

Y esto lo sabemos intuitivamente.

23:11 – 23:15

Quizá los equipos no sean tan buenos a la hora de hacer las cosas rápido.

23:15 – 23:19

es mejor, pero no son tan buenos.

23:19 – 23:22

Hay que dedicar mucho tiempo a crear consenso, recabando las aportaciones y opiniones de la gente.

23:22 – 23:28

Y la IA sí que nos ahorró algo de tiempo, pero, claro, si trabajaran por su cuenta con la IA, serían los más rápidos.

23:28 – 23:32

Y lo más importante: ¿quién lo hizo mejor?

23:32 – 23:39

Pues bien, resulta que los equipos que utilizaban la IA, aunque no fueran necesariamente los más rápidos a la hora de producir algo, en realidad…

23:39 – 23:43

tendían a obtener el mayor porcentaje de soluciones que se situaban entre el 10 % de las mejores.

23:43 – 23:44

Así que este es un hallazgo realmente fascinante.

23:44 – 23:45

Insisto, es una fase muy, muy temprana.

23:45 – 23:49

Hay otro artículo realmente estupendo de Microsoft que no tengo aquí.

23:49 – 23:54

Y este trata, de hecho, sobre el uso de Copilot, lo cual es estupendo porque, en realidad, fue un estudio mucho más amplio.

23:54 – 23:58

Creo que abarcaba entre 20 y 30 sectores diferentes, analizando el tema con mucha más profundidad.

23:58 – 24:00

Así que desde Stanford están saliendo muchas investigaciones interesantes.

24:00 – 24:04

Si hay algo que te interese, se están llevando a cabo numerosas investigaciones al respecto.

24:04 – 24:08

Eric Ben-Yolson, de Stanford, está llevando a cabo gran parte de este trabajo.

24:08 – 24:09

Y, de nuevo, muchas empresas se están sumando a esta tendencia.

24:09 – 24:12

con iniciativas similares, porque es algo que nos despierta bastante curiosidad a todos.

24:12 – 24:14

¿Cómo integramos esta tecnología?

24:15 – 24:21

Bueno, y una de las cosas de las que llevamos hablando bastante tiempo es este término, ya sabes, la alfabetización digital.

24:21 – 24:23

¿Qué significa tener conocimientos sobre IA?

24:23 – 24:28

Y creo que la versión anterior, más ingenua, era algo así como: «Oh, todo el mundo tiene que saber programar».

24:28 – 24:30

Todo el mundo tiene que programar.

24:30 – 24:31

Pero no había ningún contexto para ello.

24:31 – 24:33

O sea, ¿qué significa eso?

24:33 – 24:39

¿Qué significa que un director general, un vicepresidente sénior o un responsable de producto

24:40 – 24:42

En realidad no es relevante, ¿verdad?

24:42 – 24:49

Uno de mis libros favoritos sobre qué es la alfabetización digital, o el concepto de alfabetización digital, lo ha escrito, de hecho, un profesor de inglés.

24:49 – 24:52

Y, como probablemente ya sabéis, me gusta usar ejemplos antiguos.

24:52 – 25:01

Su libro se escribió en 2003 y estaba dirigido a sus alumnos de inglés, que ahora se están iniciando en la investigación sobre esa novedad tan alocada llamada Internet.

25:01 – 25:09

¿Qué significaba para la investigación y la credibilidad de tu trabajo el hecho de que ya no fueras a una biblioteca ni entrevistaras a gente, y tuvieras una microficha?

25:09 – 25:19

y esas fuentes primarias? ¿Qué ocurre ahora que utilizas un ordenador para hacer este trabajo, o Internet, o esa nueva cosa poco fiable llamada Wikipedia para ayudarte con tu

25:19 – 25:19

investigación?

25:19 – 25:22

Así pues, hay tres niveles de alfabetización de los que habla.

25:22 – 25:24

Y es muy relevante para la IA.

25:24 – 25:32

Y me gusta mucho esta rúbrica porque realmente te ayuda a entender cómo debes plantearte la alfabetización en IA, independientemente del nivel en el que te encuentres en tu uso de la

25:32 – 25:33

tecnología.

25:33 – 25:34

Así pues, el nivel uno es la alfabetización funcional.

25:34 – 25:37

Esto va dirigido a personas que se limitan a ser meros receptores de una tecnología.

25:37 – 25:39

Y este es el cliente medio.

25:39 – 25:42

La persona que interactúa con el chatbot, ¿verdad?

25:42 – 25:46

La persona que intenta utilizar el agente de IA para que le haga la compra.

25:46 – 25:48

Y, en realidad, tu trabajo consiste en conseguir un empleo eficaz.

25:48 – 25:54

La alfabetización crítica es para personas que no son programadoras, pero que son las que hacen que el proyecto se lleve a cabo.

25:54 – 25:55

Así que quizá sean los responsables de producto.

25:55 – 25:58

Su trabajo consiste en realizar una crítica fundamentada.

25:58 – 26:03

Y, en tercer lugar, la competencia retórica, que es necesaria para los desarrolladores.

26:03 – 26:09

Lo que resulta realmente fascinante de esto es que, cuanto más te acercas al código, menos técnico se vuelve.

26:09 – 26:13

Así que, cuando eres programador o desarrollador, tu trabajo consiste en practicar de forma reflexiva.

26:13 – 26:15

Así que hablaremos un poco sobre lo que eso significa.

26:15 – 26:17

Digamos que eres simplemente el destinatario.

26:17 – 26:19

Eres la persona que simplemente interactúa con el chatbot.

26:19 – 26:21

Quieres saber cuál es tu saldo bancario.

26:21 – 26:22

Quieres hacer una transferencia.

26:22 – 26:25

Y hay un agente de IA que va a hacer eso por ti.

26:25 – 26:29

Bueno, ¿cómo deberías plantearte tener conocimientos en ese ámbito, y si ese es tu papel?

26:29 – 26:37

Lo más importante es esa parte de abajo: aprender a interactuar con la tecnología, en lugar de ser un mero resultado de ella.

26:37 – 26:38

Eso es realmente, realmente importante.

26:39 – 26:47

Quieres que tus usuarios y tus clientes tengan una visión crítica a la hora de comprender los resultados y saber cómo pueden actuar o si la tecnología debería o no

26:47 – 26:48

actuar en su nombre.

26:48 – 26:54

Así que, en lugar de aceptar a ciegas, deberían ser capaces de interactuar con la tecnología.

26:54 – 27:03

Y eso supone, de hecho, una experiencia mucho mejor para quien utiliza cualquier cosa: si te involucras con ella y ves y comprendes realmente las ventajas de trabajar con

27:03 – 27:03

ella.

27:05 – 27:14

Y para el segundo nivel de personas —los gestores de producto, los responsables de equipos y los propietarios de producto—, lo más importante es ser capaz de darse cuenta de cuándo las cosas van mal,

27:14 – 27:15

cuando las cosas no funcionan bien.

27:15 – 27:18

Esto es aún más importante en la era de la IA generativa.

27:18 – 27:20

Recuerda: es «seguramente incorrecto».

27:20 – 27:21

Dirá «salida».

27:21 – 27:28

Creo que la semana pasada, la gran polémica fue el número de abogados que ahora utilizan ChatGPT para que les ayude a redactar sus escritos jurídicos.

27:28 – 27:30

¿Y adivina qué hace ChatGPT?

27:30 – 27:31

Se inventa cosas.

27:31 – 27:35

Así que se está inventando casos que no existen.

27:35 – 27:40

Así que, de nuevo, se trata de ser lo suficientemente inteligente como para cuestionar la tecnología.

27:40 – 27:42

Fíjate en las fuentes que te proporciona.

27:42 – 27:43

Compruébalas dos veces.

27:43 – 27:46

Eh… Y ser capaz de cuestionar el sistema.

27:47 – 27:52

Y luego, cuando eres el desarrollador, el creador, el programador, la persona que se mete de lleno en el código.

27:52 – 27:54

las preguntas son las más retóricas.

27:54 – 27:57

¿Dónde reside el poder en el sistema?

27:57 – 28:05

Si hubiera un ser humano en el proceso y Stanislav Petrov tuviera que decidir si detonar o no un arma nuclear, ¿sería capaz de decir realmente que no?

28:05 – 28:08

¿O simplemente tendría que seguir las instrucciones de la IA?

28:08 – 28:16

Entonces, ¿cómo se diseña un sistema para que exista realmente la presencia humana en el proceso, de modo que las personas puedan participar de verdad?

28:16 – 28:22

Mi forma de abordarlo —y sé que Anna ya lo ha presentado— es que dirijo una organización llamada Humane Intelligence.

28:22 – 28:34

Soy estadístico de formación, científico social, y lo que me interesa de la IA general es el hecho de que cada persona pueda tener esta tecnología en sus manos.

28:34 – 28:42

Y durante mi etapa en Accenture, la verdad, reflexioné sobre esta cuestión: ¿qué significa que el ser humano forme parte del proceso y qué implica contar con garantías en materia de IA?

28:42 – 28:50

La garantía de la IA no es más que la capacidad de afirmar que este producto o esta tecnología va a actuar, va a hacer lo que yo creo, lo que he prometido que hará.

28:50 – 28:51

Y con Gen.

28:51 – 28:52

IA, eso es realmente muy, muy difícil.

28:52 – 28:55

Entonces, ¿cómo se hace esto dentro de una organización?

28:55 – 28:58

Este es un artículo que escribimos en 2020 sobre este tema.

28:58 – 29:09

En realidad, se trata de contar con procesos claros y que permitan atribuir responsabilidades, de que la responsabilidad sea compartida, y también de ser transparentes y, de hecho, más responsables con lo que el sistema puede y no puede hacer.

29:10 – 29:16

Durante mi etapa en Twitter, hice algo bastante radical: abrí nuestro código para que el público pudiera examinarlo.

29:16 – 29:19

Ahora bien, el concepto de «bug bounty» aquí, en el ámbito de la ciberseguridad, no es nada nuevo.

29:19 – 29:23

Pero un programa de recompensas por errores algorítmicos era algo que nunca se había hecho antes.

29:23 – 29:27

Así que abrimos nuestro código al mundo entero y dijimos: «Encontrad fallos y os daremos dinero».

29:27 – 29:31

De hecho, acabé creando una organización sin ánimo de lucro, llamada Human Intelligence, para llevar a cabo ese trabajo.

29:31 – 29:40

Así que hemos colaborado con una amplia variedad de organizaciones, gobiernos, grupos de la sociedad civil, etcétera, para llevar a cabo este tipo de programas de recompensas por detectar sesgos.

29:41 – 29:44

Y lo nuevo por lo que se me conoce es el «red teaming».

29:44 – 29:48

De nuevo, si te dedicas a la ciberseguridad, el «red teaming» no es un concepto nuevo.

29:48 – 29:58

Pero entender el uso del «red teaming», no solo para comprender a los actores maliciosos, sino también las consecuencias no deseadas que surgen cuando tu sistema funciona mal, aunque no haya sido de forma intencionada…

29:58 – 30:00

acción intencionada por parte del usuario, resulta en realidad bastante difícil de llevar a cabo.

30:00 – 30:04

Y la forma en que lo abordé es lo que denomino «retroalimentación pública estructurada».

30:04 – 30:10

Por lo que más se me conoce es por este evento en el que reunimos a más de 3.000 personas en DEF CON, que es el mayor evento de ciberseguridad

30:10 – 30:18

del mundo, en el que, de hecho, hackearon y analizaron… eh… ocho modelos de IA diferentes, colaborando con los propietarios de los modelos y las empresas.

30:18 – 30:20

Y esto va en contra de la Carta de Derechos de la IA.

30:20 – 30:26

Así que, independientemente de si estos modelos revelarían datos personales o no, o de si presentarían «alucinaciones».

30:26 – 30:30

Y colaboramos con el Gobierno de EE. UU. y la Administración Biden para llevar a cabo este trabajo.

30:30 – 30:32

Y seguimos haciéndolo hoy en día.

30:33 – 30:40

Y lo fascinante es que la gente de a pie, aunque tenga esta tecnología al alcance de la mano, cada vez está más alejada de

30:40 – 30:43

la capacidad de dar nuestra opinión sobre si funciona o no.

30:43 – 30:46

Así que uno de los proyectos que llevamos a cabo fue colaborar con los Institutos Nacionales de Estándares y Tecnología.

30:46 – 30:50

Y abrimos este concepto de «red teaming» a cualquier persona en Estados Unidos.

30:50 – 30:52

Y esto ocurrió, de hecho, el año pasado.

30:52 – 31:00

Así que cualquier persona de Estados Unidos podía realizar pruebas de «red teaming» en modelos de IA y enviar sus comentarios al NIST con el fin de crear mejores estándares sobre cómo debería funcionar esta tecnología.

31:01 – 31:05

Y, en realidad, a lo que me dedico… El año pasado di una charla TED sobre este concepto del «derecho a reparar».

31:05 – 31:12

Y el «red teaming» es un punto de partida, esta idea de crear esa base de conocimientos y ese instinto para que la gente diga: «Oye, aquí hay algo que no va bien».

31:12 – 31:13

Quiero levantar la mano.

31:13 – 31:15

Quiero poder señalarlo.

31:15 – 31:20

La verdad es que no es algo que hayamos pensado en incorporar a la tecnología de la que disponemos.

31:20 – 31:27

Entonces, ¿cómo se puede utilizar la IA para resolver problemas de forma positiva y productiva?

31:28 – 31:30

¿Y ahora qué?

31:30 – 31:31

Entonces, la IA es una herramienta de productividad, ¿verdad?

31:31 – 31:32

Así que no es magia.

31:32 – 31:33

No tiene intención.

31:33 – 31:36

No se trata de sacar a rastras al profesor de tu hijo del aula.

31:36 – 31:41

Así que, cuando pienses en desarrollar e implementar la IA, ¿cómo puedes planteártelo pensando primero en el usuario, verdad?

31:41 – 31:49

Entonces, ¿cómo abordas los puntos débiles de lo que la IA sabe hacer bien y, lo que es más importante, de lo que las personas saben hacer bien, y cómo fusionas ambos aspectos?

31:49 – 31:53

Y, por último, ¿cómo se puede utilizar este sistema para resolver problemas?

31:53 – 31:57

Y, de nuevo, cuando pensamos en esta idea de la «intervención humana», no se trata solo de una frase.

31:57 – 31:58

No es solo un término.

31:58 – 32:00

Es lo que la gente pide hoy en día.

32:01 – 32:05

Ya sabes, estamos en un mínimo histórico en cuanto a la confianza en los sistemas de IA.

32:05 – 32:10

Durante mi etapa en la administración Biden como enviado científico, tuve el privilegio de viajar por todo el mundo.

32:10 – 32:20

Y te sorprendería ver que todo el mundo, desde, ya sabes, los ancianos de las tribus de Fiyi hasta el joven más sofisticado que trabaja con Gen.

32:20 – 32:20

IA.

32:20 – 32:22

Todos se hacen las mismas preguntas.

32:22 – 32:28

Hay preguntas sobre la privacidad de los datos, la seguridad, si los algoritmos están o no… si están o no siendo manipulados por algoritmos.

32:28 – 32:31

o si se está utilizando de forma maliciosa en su contra.

32:31 – 32:33

Todo el mundo se plantea las mismas preguntas.

32:33 – 32:39

Así que, si quieres generar confianza en los sistemas que estás creando, piensa primero en el usuario, no en la tecnología.

32:39 – 32:41

Muchas gracias por tu tiempo.

32:46 – 32:47

Gracias, doctor.

32:47 – 32:49

Chaldry, ha sido fantástico.

32:49 – 32:50

Le agradecemos que haya venido hoy.

32:50 – 32:51

Muchísimas gracias.