A resiliência começa conosco: caminhos éticos para a inovação e a confiança na IA

A IA responsável exige mais do que apenas controles técnicos. Ela requer estruturas éticas, governança transparente e a integração do julgamento humano em pontos críticos de decisão para gerenciar riscos e responsabilidades. 

Os seres humanos fornecem ética, contexto e raciocínio que as máquinas não conseguem reproduzir. A supervisão humana permite uma implantação de IA mais segura, mais confiável e com maior credibilidade. 

Estruturas eficazes incluem governança de dados, validação de modelos, detecção de viés, explicabilidade, monitoramento contínuo, pontos de verificação com intervenção humana e procedimentos de escalonamento baseados em risco. 

Sistemas totalmente autônomos aumentam o risco em cenários complexos ou de alto risco. A supervisão humana continua sendo essencial para ajudar a prevenir erros, uso indevido ou consequências indesejadas.   

A IA ética gera confiança junto aos usuários, reguladores e à sociedade – possibilitando a inovação sustentável, em vez de ganhos de curto prazo que geram riscos a longo prazo. 

Assista ao vídeo aqui para ver a transcrição com marcação de tempo

00:12 – 00:15

Nosso convidado tem um currículo extraordinário.

00:15 – 00:19

Ela é a CEO da Humane Intelligence.

00:19 – 00:26

Ela também foi a Enviada Científica dos Estados Unidos para Inteligência Artificial, nomeada pelo presidente Biden.

00:26 – 00:30

E mal posso esperar para apresentá-la e recebê-la entre nós, Dra.

00:30 – 00:32

Ruman Chowdhary.

00:42 – 00:44

Oi, bom dia.

00:44 – 00:45

É muito bom ver todos vocês.

00:45 – 00:47

Espero que tenham gostado dos pretzels.

00:47 – 00:48

Meu nome é Dr.

00:48 – 00:56

Aman Chowdhury, e foi incrível ouvir todas as palestras e conversas e, de fato, ver alguns rostos conhecidos na plateia.

00:56 – 00:57

Olá.

00:58 – 01:03

Então, estou aqui hoje para falar com vocês sobre caminhos éticos para a inovação e a confiança.

01:04 – 01:08

Então, quantas pessoas sabem quem é esse homem?

01:09 – 01:18

Normalmente percebo que, na plateia, talvez uma pessoa saiba, mas muitas vezes me deparo com olhares bastante confusos quando digo que ele é a razão pela qual todos nós estamos vivos hoje.

01:21 – 01:22

É isso mesmo.

01:22 – 01:23

OK, então vou explicar.

01:23 – 01:25

Meu nome é Stanislav Petrov.

01:25 – 01:31

E, em 1983, ele era o que hoje chamaríamos de “o ser humano no circuito”.

01:31 – 01:38

Ele era o responsável por receber os sinais de um sistema técnico que indicava se os Estados Unidos haviam ou não lançado uma arma nuclear.

01:38 – 01:39

Ele estava do lado russo.

01:39 – 01:51

E sua função era, em seu bunker, receber a informação de que um míssil havia sido lançado e, então, apertar o botão para o que, se você se lembra de sua história mundial ou de estudos sociais, é

01:51 – 01:51

conhecido como

01:51 – 01:52

destruição garantida.

01:52 – 01:56

E todos nós temos muita, muita sorte de que ele não tenha feito isso.

01:56 – 02:02

E eu adoro essa história porque, quando pensamos no papel do ser humano no ciclo tecnológico, não refletimos sobre isso com muita profundidade.

02:02 – 02:05

A gente só pensa: “Tem uma pessoa no final e ela vai simplesmente… fazer alguma coisa”.

02:05 – 02:07

Bem, ele era um ser humano no ciclo.

02:07 – 02:10

E ainda bem que ele não simplesmente foi lá e apertou o botão.

02:10 – 02:17

E ele usou algo muito, muito exclusivo dos seres humanos: as pistas contextuais e o pensamento crítico.

02:17 – 02:20

E ele ficou ali sentado pensando: bem, a Guerra Fria já dura décadas.

02:20 – 02:21

E não tem acontecido muita coisa

02:21 – 02:25

escalada; por que os Estados Unidos detonariam uma arma nuclear?

02:25 – 02:27

E ele optou por não apertar o botão.

02:27 – 02:31

E essa é a razão pela qual, na verdade, não acabamos entrando em uma guerra nuclear.

02:31 – 02:32

Isso é extremamente importante.

02:32 – 02:37

E o que é absolutamente incrível é que pouquíssimas pessoas sabem quem é esse homem.

02:37 – 02:48

E eu adoro essa história mais uma vez porque ela realmente demonstra como o pensamento crítico humano não pode ser substituído nem mesmo pela tecnologia mais avançada.

02:49 – 02:52

Então, quando falamos de inteligência artificial, o que queremos dizer?

02:52 – 02:53

Então, naquela época, o Sr.

02:53 – 02:59

Petrov teve acesso a algumas das tecnologias mais avançadas.

02:59 – 03:08

E talvez parecesse intimidante ou assustador que um ser humano pudesse se levantar e desafiar o resultado de uma ferramenta tecnológica tão sofisticada.

03:08 – 03:11

E é assim que, às vezes, pensamos sobre a inteligência artificial.

03:11 – 03:16

E esses são os tipos de manchetes que você talvez tenha aberto e visto no seu aplicativo de notícias hoje.

03:16 – 03:19

A solução para nossa crise na educação pode ser

03:19 – 03:31

IA: será que os educadores são os próximos na fila para serem substituídos por robôs? Os advogados, a próxima profissão a ser substituída por computadores? E a onipresente IA é tão boa quanto qualquer outra no diagnóstico da doença X?

03:31 – 03:33

ser humano ou médico.

03:33 – 03:36

E há algumas coisas que quero destacar sobre essas manchetes.

03:36 – 03:37

Então, número um.

03:37 – 03:42

Provavelmente, elas parecem ter surgido nos últimos três anos, uma revolução da IA generativa.

03:42 – 03:45

Na verdade, todas elas são de 2018 a 2020.

03:45 – 03:49

Estou nessa área há quase uma década, mais precisamente na área de IA responsável.

03:49 – 03:52

Trabalho com tecnologia há mais de 15 anos.

03:52 – 03:56

E parece que, a cada nova iteração, vemos essas manchetes se repetirem sem parar.

03:56 – 04:00

E, claro, a cada nova versão, a tecnologia fica cada vez mais sofisticada.

04:00 – 04:04

Mas há algumas coisas aqui que considero bastante problemáticas.

04:04 – 04:07

Primeiro, há essa antropomorfização da tecnologia.

04:07 – 04:20

Se você ler essas frases, parece que há uma espécie de pessoa com IA dentro de uma máquina que realmente quer ser médico, professor ou advogado, e ela vai lá e arrasta seu filho…

04:20 – 04:21

professor, que se debate e grita.

04:21 – 04:24

Quer dizer, uma revolta dos robôs, meu Deus.

04:24 – 04:25

Que drama, né?

04:25 – 04:29

Mas, o mais importante: onde está a pessoa nessa frase?

04:29 – 04:37

Em todas essas manchetes — e, repito, são manchetes muito comuns que você provavelmente vê todos os dias —, o ser humano é apenas um elemento passivo

04:37 – 04:41

destinatário do que a tecnologia decidiu fazer.

04:41 – 04:44

E isso não poderia estar mais longe da verdade.

04:44 – 04:50

Então, o que aconteceu é que as pessoas acham que a IA é uma espécie de horda de robôs.

04:50 – 04:51

Mas, na verdade, não é isso.

04:51 – 04:55

É algo que parece normal.

04:55 – 04:56

Posso voltar, por favor?

04:56 – 04:56

Desculpe.

04:58 – 04:59

vamos ver se isso acontece.

04:59 – 05:00

Pronto, obrigado.

05:00 – 05:11

O que as pessoas acham que é a IA são essas hordas de robôs chegando para mudar nossas vidas, tirar nossos empregos e talvez ensinar nossos filhos, mas a realidade é que, se você é um desenvolvedor como eu, isso

05:11 – 05:13

parece um pouco mais com isso.

05:13 – 05:22

E, na verdade, a realidade é que essas manchetes exageradas não refletem a verdade, que é a de que há muito esforço e trabalho humano em tudo, desde a coleta de dados, a curadoria de dados,

05:22 – 05:29

limpeza, segurança, programação, depuração e, depois, o lançamento, a expansão e a entrega do produto,

05:30 – 05:49

e implantação — tudo isso, na verdade, requer pessoas.

05:49 – 05:50

Portanto, não devemos simplesmente pensar que os educadores estão na fila para serem substituídos por robôs.

05:50 – 05:52

há muitas etapas humanas que ocorrem nesse meio tempo.

05:52 – 05:58

Nós conversamos sobre as coisas, e quando conversamos, quando lidamos com questões humanas,

05:58 – 06:04

estamos interagindo diretamente com essa tecnologia que parece tão futurística e tão capaz.

06:04 – 06:11

Bem, o que acontece é que começamos a impulsionar uma tecnologia que, na verdade, não leva em conta o que os seres humanos podem precisar.

06:11 – 06:22

E então, especificamente quando a tecnologia não está realmente cumprindo as narrativas fantásticas, hum, que podem ter sido prometidas em uma apresentação, o que acontece é que nós, na verdade,

06:22 – 06:28

presumimos que os seres humanos e a sociedade precisam se adaptar às limitações da tecnologia,

06:28 – 06:34

em vez de pensar em como podemos desenvolver a tecnologia para que ela se adapte às necessidades da sociedade.

06:34 – 06:37

E isso é algo que chamo de “ser humano adaptado”.

06:37 – 06:44

Então, quando pensamos nesse “ser humano adaptado”, uma das maneiras de enxergarmos a tecnologia de IA é: em que ela é boa?

06:44 – 06:46

Do que ela é capaz?

06:46 – 06:50

E há algumas coisas nas quais o aprendizado de máquina e a IA são realmente muito bons.

06:50 – 06:55

Portanto, todo esse preâmbulo não significa que a IA não seja capaz ou que o aprendizado de máquina não consiga fazer certas coisas.

06:55 – 06:57

Na verdade, eles podem fazer coisas realmente incríveis.

06:57 – 07:02

Mas o que importa aqui é distinguir aquilo em que as pessoas são realmente boas daquilo em que a tecnologia é realmente boa.

07:02 – 07:03

Então, no que a tecnologia é realmente boa?

07:03 – 07:06

Ela é boa em identificar padrões gerais.

07:06 – 07:08

É boa em analisar detalhadamente

07:08 – 07:10

e identificar coisas que são semelhantes entre si.

07:10 – 07:13

Essa é basicamente a maior parte da base da visão computacional.

07:13 – 07:17

E isso geralmente é consistente, dependendo da taxa de erro.

07:17 – 07:27

Então, quando desenvolvemos IA — e, repito, já faço isso há bastante tempo —, uma forma simplificada de explicar é dizer que coletamos muitos dados para desenvolver um sistema voltado para a pessoa comum de um

07:27 – 07:29

tipo específico.

07:29 – 07:32

E podemos coletar dados extremamente específicos.

07:32 – 07:35

E isso não quer dizer que estejamos fazendo isso para a pessoa comum em geral.

07:35 – 07:37

Mas definimos você, eu e o

07:37 – 07:41

pessoa sentada ao seu lado como parte de um perfil de cliente ou de uma comunidade.

07:41 – 07:45

E talvez isso se baseie em 10, 20, 100 pontos de dados diferentes.

07:45 – 07:50

E então você meio que parte do princípio de que existem algumas suposições feitas sobre os dados que estão faltando.

07:50 – 07:50

Tudo bem.

07:50 – 07:55

Bem, vou contar uma história sobre o que significa desenvolver para a pessoa comum.

07:55 – 08:04

E o que significa, afinal, “pessoa comum”, mesmo que se trate de um subconjunto hiperespecífico de pessoas que, poderia-se pensar, seria muito, muito previsível?

08:04 – 08:07

Aliás, uma coisa que adoro é contar anedotas, histórias e dar palestras

08:07 – 08:07

sobre isso.

08:07 – 08:07

isso.

08:07 – 08:07

isso.

08:07 – 08:11

inteligência artificial, então nada a ver com inteligência artificial.

08:11 – 08:19

Um dos maiores erros que cometemos é achar que essa tecnologia é nova e que todos os problemas que enfrentamos são coisas que nunca vamos ver, que nunca vimos antes.

08:19 – 08:21

Nunca fizemos essas perguntas.

08:21 – 08:31

E, embora a IA esteja introduzindo novos paradigmas, novas perguntas e novas questões, os problemas que estamos resolvendo não são, na verdade, questões totalmente novas.

08:31 – 08:32

Então, essa é uma das minhas histórias favoritas de se contar.

08:32 – 08:37

Então, na década de 1940, os acidentes com aviões de linha estavam em um nível recorde.

08:53 – 09:07

Então, a Força Aérea dos EUA procurou os fabricantes de assentos de avião e disse: “Olhem, precisamos que vocês redesenhem esses assentos, porque o perfil médio dos

09:07 – 09:08

nossos pilotos mudou.”

09:08 – 09:13

É claro que, se pensarmos em quem são esses pilotos, eles, na verdade, constituem um subconjunto bastante restrito de pessoas.

09:13 – 09:17

São homens jovens, provavelmente com idades entre 18 e, no máximo, 30 anos.

09:19 – 09:20

Eles são bastante saudáveis.

09:20 – 09:22

São fisicamente aptos, etc.

09h22 – 09h24

E, naquela época, não haveria mulheres pilotos.

09:24 – 09:26

Seria bastante padronizado.

09:26 – 09:33

Então, na década de 1940, eles fizeram o que já haviam feito na década de 1920, ou seja, recrutaram mais de 4.000 desses pilotos.

09:33 – 09:36

Eles os avaliaram em 10 critérios diferentes.

09:36 – 09:37

Isso soa familiar?

09:37 – 09:43

Se você é um cientista de dados aqui presente, isso parece uma maneira bastante razoável de projetar um bom assento.

09:43 – 09:48

Então, com mais de 4.000 homens e 10 pontos de dados diferentes, eles calcularam a média e criaram um assento.

09:49 – 09:59

E ele não serviu a ninguém; nem um único desses cerca de 4.000 pilotos se sentou naquele assento e disse: “Sim, isso é confortável para mim”.

09:59 – 10:04

E a razão é que essa ideia de média se refere à pessoa que está no 50º percentil.

10:04 – 10:07

Se você conhece a curva em forma de sino, essa é a parte maior da curva.

10:07 – 10:11

curva, mas isso não é necessariamente uma pessoa real que exista.

10:11 – 10:20

É uma pessoa imaginária que é uma síntese de todos os outros pontos de dados que você coletou sobre pessoas como ela.

10:20 – 10:22

Então, eles reduziram isso a três dimensões.

10:22 – 10:26

E se a gente simplesmente pegar três pontos de dados e tiver mais dados gerais, certo?

10:26 – 10:29

Isso se encaixava em apenas cerca de 13% dos pilotos.

10:29 – 10:34

Bem, então a Força Aérea voltou atrás e disse: “Ok, fabricantes de aviões, isso não está funcionando para nós”.

10:34 – 10:36

Porque, é claro, trata-se de uma situação de vida ou morte.

10:36 – 10:41

Esses assentos precisam ser realmente funcionais e úteis, e os pilotos se encontram em situações muito extremas.

10:41 – 10:43

Portanto, isso não é algo pensado depois.

10:43 – 10:50

Então, eles voltaram e disseram: na verdade, em vez de projetar para a pessoa do 50º percentil, a pessoa média, o que eu quero que vocês façam é, na verdade, criar

10:50 – 10:53

os assentos se adaptem a 95% de todos os pilotos.

10:54 – 10:57

o que representa uma mudança radical na forma de medir o sucesso, certo?

10:57 – 11:02

Porque grande parte do que você está criando é a forma como você define o que é sucesso e como se parece o que é bom.

11:02 – 11:09

Então, eles redefiniram o conceito de “bom” e pensaram: em vez de fabricar um assento para o piloto médio, por que não fabricamos um assento que sirva para 95% de todos os pilotos?

11:09 – 11:13

E, mais uma vez, trata-se ainda de um pequeno subconjunto de pessoas, sem muita variação.

11:13 – 11:19

Então, todos os fabricantes de aviões responderam: “É impossível, não dá para fazer isso, nunca fizemos isso antes, vamos à falência”.

11:19 – 11:21

Essa é uma ideia absolutamente maluca.

11:21 – 11:24

E, claro, trata-se da Força Aérea, então eles podem fazer o que quiserem.

11:24 – 11:27

Tipo, tudo bem, vamos procurar outra pessoa que faça isso.

11:27 – 11:28

E foi o que eles fizeram.

11:29 – 11:31

foi simplesmente criar assentos ajustáveis.

11:31 – 11:42

Então, sempre que você entra no seu carro, em um ônibus ou em um avião e pode fazer coisas como mover o apoio de braço, levantar o apoio de cabeça e inclinar o assento de maneiras diferentes, essa é uma razão pela qual alguém

11:42 – 11:49

que tem 5’3, como eu, e um cara com 5’10 de altura média possam realmente entrar no mesmo carro e dirigi-lo.

11:49 – 11:56

Isso porque as Forças Armadas se opuseram e realmente disseram: “Queremos que vocês repensem a forma como projetam”.

11:56 – 11:59

Queremos que vocês repensem como estão fabricando essa ferramenta tecnológica.

11:59 – 12:06

Mais uma vez, em vez de dizer que estamos desenvolvendo para um público médio, vamos dizer que queremos que isso atenda a uma gama mais ampla de pessoas.

12:06 – 12:12

Uma mudança radical que, na verdade, mais uma vez, levou a produtos com melhor design e melhor resultado.

12:12 – 12:13

Então, quais são suas principais conclusões?

12:13 – 12:22

A primeira é que, para que a IA funcione, precisamos pensar de forma radical e diferente sobre como personalizar e desenvolver soluções para os usuários que temos.

12:22 – 12:26

A segunda é uma clara mudança na prestação de contas e na responsabilidade.

12:26 – 12:29

Eu cunhei o termo “terceirização moral”, e ele está ligado

12:29 – 12:38

a essa antropomorfização da inteligência artificial, à forma como usamos expressões que dão a impressão de que a IA tem intenção, que a IA tem razão, quando, na verdade, ela não tem nada disso.

12:38 – 12:41

São os seres humanos que criam e implementam a tecnologia.

12:41 – 12:49

Em vez de dizer que estamos criando IA para substituir advogados, o que está realmente acontecendo é que alguém está criando uma empresa de tecnologia jurídica.

12:49 – 12:56

E você pode optar por desenvolver tecnologia jurídica de forma a potencializar o ser humano, ou pode optar por desenvolvê-la de forma a tentar, intencionalmente, substituí-lo.

12:56 – 12:59

E essa é uma decisão tomada por seres humanos, uma decisão tomada por seres humanos sobre como

12:59 – 13:00

como a tecnologia está sendo utilizada.

13:00 – 13:08

E, finalmente, para colher os benefícios da inteligência artificial, é necessário investir tanto no lado humano quanto no lado técnico.

13:08 – 13:18

Portanto, em vez de ver o fato de que todos os nossos corpos têm tamanhos, formas e alturas diferentes como uma falha, isso é, na verdade, uma oportunidade de criar designs melhores e mais diversificados

13:18 – 13:19

abrangente.

13:20 – 13:22

Então, como a IA afetará nossa sociedade?

13:22 – 13:33

Então, eu diria que a palestra mais solicitada que me pedem para dar — e isso começou este ano; já fiz tantas palestras que falei bastante sobre IA ética e responsável —, mas a

13:33 – 13:37

futuro do trabalho em 2025 se tornou, de fato, o tema mais solicitado.

13:37 – 13:47

Ah, e o que fico feliz em relatar é que, na verdade, há muitas evidências empíricas; há muitos trabalhos realmente excelentes sendo realizados, nos quais as pessoas estão discutindo, sabe,

13:47 – 13:50

estão medindo e estudando quantitativamente o impacto de

13:50 – 13:51

IA na força de trabalho.

13:51 – 13:59

Então, por um lado, mais uma vez, o que você pode ver nas notícias ao abrir seu aplicativo de notícias é algo como pessoas defendendo a renda básica universal, pessoas dizendo que haverá

13:59 – 14:01

não haverá mais empregos para ninguém.

14:01 – 14:07

E o que estamos descobrindo, ao contrário disso, é que, na verdade, trata-se de uma conversa bem mais detalhada.

14:07 – 14:10

Então, vou falar com vocês sobre três artigos diferentes que eu realmente adoro.

14:10 – 14:13

Na verdade, existem vários artigos por aí, mas há três que eu adoro.

14:13 – 14:18

Quero começar com uma visão geral, como o impacto macroeconômico em todo o mundo nos próximos 10 anos.

14:18 – 14:20

Visão de médio prazo, que é vertical

14:20 – 14:30

por setor e o estudo mais detalhado e experimental realizado em uma empresa específica para observar como os funcionários reagiram e como responderam ao trabalho com IA e como

14:30 – 14:31

isso os afetou.

14:31 – 14:40

Também vou começar dizendo que dou palestras em muitas universidades e, na verdade, há uma preocupação muito justificada entre os jovens.

14:40 – 14:50

E o que estamos percebendo — e, repito, este é o primeiro ano em que realmente observamos isso — é que a Geração Z, ao entrar no mercado de trabalho em busca de empregos, especialmente aqueles de nível inicial, está enfrentando mais dificuldades porque

14:50 – 14:53

a inteligência artificial é, de fato, capaz de realizar algumas das tarefas de nível básico.

14:53 – 14:56

E isso não se limita apenas à pesquisa e à redação.

14:56 – 14:58

Na verdade, trata-se principalmente de programação.

14:58 – 15:02

Então, o que a IA realmente faz muito bem é programação de nível básico.

15:02 – 15:07

No entanto, ainda são necessários desenvolvedores sênior para garantir que o código seja robusto, funcional e assim por diante.

15:07 – 15:11

Mas muitos dos cargos de nível júnior simplesmente não estão sendo substituídos.

15:11 – 15:17

Então, à medida que as pessoas vão ganhando experiência e sendo promovidas, suas vagas de nível júnior simplesmente não estão sendo preenchidas.

15:17 – 15:20

E isso é preocupante para o futuro.

15:20 – 15:27

Então, o primeiro artigo sobre o qual quero falar é de uma economista do trabalho, a professora Dara Nesemoglu, do MIT.

15:27 – 15:32

Ele fez uma pesquisa e, repito, é alguém que trabalha com economia há muito, muito tempo.

15:32 – 15:37

E ele realmente entrou no campo da IA pensando no impacto sobre o trabalho e a produtividade.

15:37 – 15:45

Então, ele analisou o que se chama de produtividade total dos fatores, que é basicamente o que se obteria se somássemos o PIB de todos os países; isso seria, de certa forma, a PTF.

15:45 – 15:50

Ah. E o que ele calculou é que, nos próximos 10 anos, ela será o que ele chama de

15:50 – 16:01

Então, um impacto não insignificante, mas modesto, algo em torno de menos de 1%, o que pode não parecer muito, mas, aliás, é menos de 1% do PIB total do mundo inteiro, o que é bastante significativo.

16:01 – 16:03

Portanto, trata-se de um nível bastante significativo de automação.

16:03 – 16:06

Mas ele aprofundou ainda mais a análise para perguntar: o que está sendo automatizado?

16:06 – 16:13

E ele destaca que, na verdade, o que muitas pessoas percebem é que são mais os empregos de colarinho branco do que os de colarinho azul que estão sendo automatizados.

16:13 – 16:14

E isso é interessante.

16:14 – 16:19

Isso realmente destaca um dos aspectos particularmente radicais da IA generativa.

16:32 – 16:33

E ponto.

16:33 – 16:36

E… e… e acho que esse é um ponto importante.

16:36 – 16:36

E ponto.

16:36 – 16:38

E um ponto realmente importante.

16:38 – 16:50

E um ponto importante. E um ponto realmente importante.

16:50 – 16:50

E

16:50 – 16:54

É realmente o trabalho intelectual, o trabalho intelectual rudimentar que está sendo automatizado.

16:54 – 16:56

Nós realmente não tínhamos pensado nisso antes.

16:56 – 16:59

Ainda não tivemos que lidar com o impacto disso.

16:59 – 17:08

E, a propósito, voltando à Geração Z, alguns de vocês, se tiverem filhos nessa faixa etária, talvez saibam que seus filhos ou os amigos deles podem, na verdade, estar pensando em buscar empregos operários.

17:08 – 17:14

Porque, cada vez mais, os jovens não sabem qual é o valor da formação superior se a IA for realmente capaz de realizar esse trabalho.

17:14 – 17:20

Mas uma IA nunca será capaz de cortar seu gramado, consertar seu encanamento ou projetar um

17:20 – 17:21

telhado.

17:21 – 17:32

E o que eles estão percebendo é que, por muitas razões, um trabalho manual parece, para muitos deles, muito mais, você sabe, previsível e confiável do que tentar almejar algo realmente ambicioso como

17:32 – 17:40

algum tipo de cargo de vice-presidente sênior que pode ou não se concretizar, porque, se você não conseguir seu primeiro emprego, nunca vai ser promovido.

17:40 – 17:48

Então, sabe, ele observou que se prevê que a IA amplie a diferença entre a renda do capital e a renda do trabalho, mas também que haverá esse valor social negativo que nós realmente temos

17:48 – 17:50

levar em consideração.

17:50 – 18:02

coisas mais interessantes que estou observando é que, à medida que continuamos a avaliar o valor da IA, as pessoas estão cada vez mais levando em conta a externalidade negativa para a sociedade como um fator a ser considerado.

18:02 – 18:09

Afinal, de que adianta criar uma máquina de produtividade se, no fim das contas, ficarmos todos completamente incapacitados?

18:09 – 18:14

Há uma séria preocupação com questões como a dependência excessiva e com o que as pessoas chamam de “psicose da IA”.

18:14 – 18:20

Hum, estamos vendo que tecnologias educacionais estão surgindo, e há essa preocupação

18:20 – 18:22

de que os jovens possam se tornar excessivamente dependentes da tecnologia.

18:22 – 18:28

Como podemos refletir sobre essas questões e lidar com elas ao desenvolver tecnologias que ainda tragam benefícios líquidos?

18:29 – 18:37

Então, o segundo artigo sobre o qual gostaria de falar é, na verdade, de 2023 e foi escrito por uma equipe da OpenAI que trabalhou em conjunto com outro grupo de economistas.

18:37 – 18:41

Chama-se GPTs, e analisa diferentes setores.

18:41 – 18:49

E, em vez de afirmar de maneira genérica que todos esses empregos serão automatizados, o estudo analisa, setor por setor, quais são os que têm maior probabilidade de serem automatizados.

18:49 – 18:59

E a conclusão principal é que, para cerca de 80% da força de trabalho, cerca de 10% das tarefas seriam automatizadas, e para aproximadamente 19%, cerca de metade das tarefas seria afetada.

18:59 – 19:04

E isso se confirma bastante; isso foi há alguns anos e, de certa forma, acompanha as tendências que estamos observando.

19:04 – 19:13

Acho que muitos de nós usamos ferramentas de IA para tarefas básicas de produtividade, como ajudar a revisar suas anotações ou talvez fazer resumos de reuniões para você.

19:13 – 19:18

Isso não está substituindo seu trabalho e, na verdade, provavelmente está lhe devolvendo um pouco de tempo extra.

19:18 – 19:22

A maioria de nós nesta sala provavelmente faz parte desses 80%.

19:22 – 19:29

Esses 19% dos trabalhadores que estão vendo 50% de suas tarefas serem automatizadas apontaram profissões como jornalismo e assistente jurídico.

19:29 – 19:35

funções mais voltadas para pesquisa e conhecimento, que talvez não exijam especialização profunda.

19:36 – 19:37

Então, agora, o terceiro artigo.

19:37 – 19:46

E, mais uma vez, um dos principais temas que as pessoas querem entender é o que a inteligência artificial significa para minha força de trabalho se eu a utilizar, se meus funcionários a utilizarem, se minha…

19:46 – 19:47

empresa a adotar?

19:47 – 19:56

Bem, de forma esmagadora, posso afirmar que a resposta é: o ser humano aliado à IA é superior ao ser humano sem a IA ou à IA por si só.

19:56 – 19:58

E eu adoro esse estudo porque, em primeiro lugar, ele tem um nome fabuloso.

19:58 – 20:00

Chama-se “O Companheiro de Equipe Cibernético”.

20:00 – 20:04

E foi um estudo de caso realizado na Harvard Business School em parceria com a Procter & Gamble.

20:04 – 20:06

E eles montaram um experimento controlado randomizado.

20:06 – 20:17

No experimento, com cerca de 800 funcionários da P&G, eles realizaram um hackatão de vários dias e basicamente dividiram as pessoas em grupos — tanto equipes quanto participantes individuais —, sendo que alguns receberam o apoio da IA e outros não.

20:17 – 20:24

E o que eu gosto nesse artigo é que, muitas vezes, grande parte dos artigos sobre IA no local de trabalho trata de produtividade.

20:24 – 20:30

E eu realmente, realmente, realmente detesto essa métrica, porque, bem, há uma coisa que a IA sabe fazer: simplesmente produzir.

20:30 – 20:31

É só isso que ela faz.

20:31 – 20:34

E, na verdade, muitas vezes ela está errada com toda a certeza.

20:35 – 20:36

É preciso ser humano para ser

20:36 – 20:38

para entender se esse resultado…

20:38 – 20:43

Quero dizer, temos uma palavra para isso agora: chamamos de “slop” — “slop” de força de trabalho, “slop” de IA, certo?

20:43 – 20:45

É literalmente o termo usado para isso agora.

20:45 – 20:50

Então, apenas medir a produção pura não está realmente trazendo nenhuma resposta.

20:50 – 20:57

Mas o que eles testaram foram aspectos como a qualidade do trabalho, o tempo até a conclusão e, principalmente, a capacidade de auxiliar trabalhadores não especializados.

20:57 – 21:05

Porque, por outro lado, a preocupação dos profissionais mais experientes — ou, pelo menos, uma das visões — é que, bem, talvez no futuro não haja mais necessidade de especialização.

21:05 – 21:06

Você só precisa de…

21:06 – 21:11

de um ser humano inexperiente, você aplica um pouco de IA e, então, ele passa a ser igual a um desenvolvedor sênior.

21:11 – 21:13

Então, eles queriam testar tudo isso.

21:14 – 21:20

Então, como eles fazem isso para que você não precise ler um monte de gráficos de barras complicados?

21:20 – 21:22

A primeira coisa que analisaram foi a qualidade média das soluções.

21:22 – 21:25

Lembre-se: eles usaram o indivíduo sem IA como referência.

21:25 – 21:27

Eles têm as equipes sem IA.

21:27 – 21:29

Eles têm o indivíduo mais IA e a equipe mais IA.

21:29 – 21:33

Então você vai ver que adicionar a IA foi, de certa forma, uma vantagem.

21:33 – 21:38

Portanto, o grupo individual sem IA claramente não se saiu tão bem quanto qualquer um dos outros subgrupos.

21:38 – 21:41

E, quando receberam IA, eles tenderam a se sair melhor.

21:41 – 21:44

Mas, na verdade, não há uma diferença muito perceptível entre

21:44 – 21:46

o indivíduo com IA e a equipe com IA.

21:46 – 21:50

E lembrem-se, vou falar um pouco de estatísticas com vocês por um instante.

21:50 – 21:53

A barra… tipo, não se preocupem com onde ela realmente está.

21:53 – 22:00

Na verdade, é o termo de erro, aquela linha que indica o limite superior, ou seja, a área esperada onde o valor vai se situar.

22:00 – 22:09

Então, tudo isso quer dizer que, se as barras estiverem se sobrepondo significativamente — o que de fato está acontecendo —, as linhas pretas provavelmente indicarão números bastante, bastante semelhantes.

22:09 – 22:15

Então, a segunda coisa que eles analisaram foi se o fato de ser ou não o emprego principal fazia diferença.

22:15 – 22:19

E se você pegasse uma pessoa completamente inexperiente e lhe desse IA?

22:19 – 22:23

Hum… Bem, a realidade é que isso não funciona muito bem.

22:23 – 22:25

E acho que, intuitivamente, todos nós sabemos disso.

22:25 – 22:27

Mais uma vez, acabei de me referir à “desleixada IA”.

22:27 – 22:29

A IA está de forma muito convincente errada.

22:29 – 22:30

Parece meio inteligente.

22:30 – 22:39

Parece que você deu a uma criança — se você já ouviu falar do termo “síndrome de Dunning-Kruger” — que realmente sofre da síndrome de Dunning-Kruger em sua forma mais grave.

22:39 – 22:47

É sintetizar um monte de informação sem contexto e meio que jogar isso pra fora, mas não é necessariamente bom.

22:47 – 22:49

É só uma questão de volume.

22:49 – 22:59

E, de forma esmagadora, o que eles descobriram foi que indivíduos e equipes sem experiência ou com experiência limitada tiveram um certo impulso, mas, na verdade, ainda era preciso ter pessoas presentes na sala

22:59 – 23:05

que compreendessem o resultado e o que era necessário para realmente obter os benefícios dessa tecnologia.

23:05 – 23:07

E, finalmente, é claro, a economia de tempo.

23:07 – 23:09

Então, isso é superinteressante, que é o fato de que

23:09 – 23:11

E sabemos disso intuitivamente.

23:11 – 23:15

As equipes talvez não sejam tão boas em realizar as tarefas rapidamente.

23:15 – 23:19

é melhor, mas não são tão boas assim.

23:19 – 23:22

É preciso trabalhar bastante na construção de consenso, buscando as contribuições e opiniões das pessoas.

23:22 – 23:28

E a IA realmente economizou algum tempo, mas, claro, se eles estivessem trabalhando sozinhos com a IA, seriam mais rápidos.

23:28 – 23:32

E o mais importante: quem se saiu melhor?

23:32 – 23:39

Bem, acontece que as equipes que usaram IA, mesmo que não tenham sido necessariamente as mais rápidas na produção de algo, na verdade

23:39 – 23:43

tenderam a apresentar o maior número de soluções entre os 10% melhores.

23:43 – 23:44

Portanto, essa é uma descoberta realmente fascinante.

23:44 – 23:45

Mais uma vez, é muito, muito precoce.

23:45 – 23:49

Há outro artigo realmente excelente, da Microsoft, que não tenho aqui.

23:49 – 23:54

E esse, na verdade, trata do uso do Copilot, o que é ótimo, pois esse foi, na verdade, um estudo bem mais abrangente.

23:54 – 23:58

Acho que foram 20, 30 setores diferentes, analisando o assunto de forma bem mais aprofundada.

23:58 – 24:00

Portanto, há muitas pesquisas excelentes saindo de Stanford.

24:00 – 24:04

Se houver algo que lhe interesse, há uma quantidade significativa de pesquisas sendo realizadas.

24:04 – 24:08

Eric Ben-Yolson, da Universidade de Stanford, está conduzindo grande parte desse trabalho.

24:08 – 24:09

E, mais uma vez, muitas empresas estão surgindo

24:09 – 24:12

com iniciativas semelhantes, porque é algo que desperta bastante curiosidade em todos nós.

24:12 – 24:14

Como podemos integrar essa tecnologia?

24:15 – 24:21

Bem, e uma das coisas sobre as quais já conversamos há algum tempo é esse termo, sabe, alfabetização digital.

24:21 – 24:23

O que significa ter alfabetização em IA?

24:23 – 24:28

E acho que a versão anterior, mais ingênua, era algo como: “Ah, todo mundo precisa saber programar”.

24:28 – 24:30

Todo mundo simplesmente precisa programar.

24:30 – 24:31

Mas não havia contexto para isso.

24:31 – 24:33

Tipo, o que isso significa?

24:33 – 24:39

O que significa um CEO, um vice-presidente sênior ou um gerente de produto

24:40 – 24:42

Isso não é realmente relevante, certo?

24:42 – 24:49

Então, um dos meus livros favoritos sobre o que é alfabetização digital, ou o conceito de alfabetização digital, foi escrito, na verdade, por um professor de inglês.

24:49 – 24:52

E, como vocês provavelmente já sabem, gosto de usar exemplos mais antigos.

24:52 – 25:01

O livro dele foi escrito em 2003 e foi destinado aos seus alunos de inglês, que agora estão se aventurando a fazer pesquisas nessa novidade maluca chamada internet.

25:01 – 25:09

O que isso significava para a pesquisa e a credibilidade do seu trabalho se você não fosse mais à biblioteca, não entrevistasse mais pessoas e não tivesse mais microfichas?

25:09 – 25:19

e essas fontes primárias? O que aconteceria agora que você está usando um computador para fazer esse trabalho, ou a internet, ou essa nova coisa pouco confiável chamada Wikipédia para ajudá-lo com sua

25:19 – 25:19

pesquisa?

25:19 – 25:22

Então, há três níveis de alfabetização sobre os quais ele fala.

25:22 – 25:24

E isso é muito relevante para a IA.

25:24 – 25:32

E eu gosto muito dessa rubrica porque ela realmente ajuda a entender como você deve pensar sobre ser alfabetizado em IA, não importa em que estágio você esteja no uso da

25:32 – 25:33

tecnologia.

25:33 – 25:34

Então, o nível um é o de alfabetização funcional.

25:34 – 25:37

Isso se destina a pessoas que estão apenas do lado do usuário final de uma tecnologia.

25:37 – 25:39

E esse é o seu cliente comum.

25:39 – 25:42

A pessoa que interage com o chatbot, certo?

25:42 – 25:46

A pessoa que está tentando usar o agente de IA para fazer compras por ela.

25:46 – 25:48

E, na verdade, o seu trabalho é garantir uma ocupação eficaz.

25:48 – 25:54

A alfabetização crítica é para pessoas que não são programadoras, mas que são as responsáveis por tornar o projeto realidade.

25:54 – 25:55

Então, talvez sejam os proprietários do produto.

25:55 – 25:58

O trabalho deles é fazer uma crítica fundamentada.

25:58 – 26:03

E, em terceiro lugar, a alfabetização retórica, que é necessária para os desenvolvedores.

26:03 – 26:09

O que é realmente fascinante nisso é que, quanto mais perto você está do código, menos técnico isso se torna.

26:09 – 26:13

Portanto, quando você é programador, desenvolvedor, sua função é ter uma prática reflexiva.

26:13 – 26:15

Então, vamos falar um pouco sobre o que isso significa.

26:15 – 26:17

Digamos que você seja apenas o destinatário.

26:17 – 26:19

Você é a pessoa que está apenas interagindo com o chatbot.

26:19 – 26:21

Você quer saber qual é o seu saldo bancário.

26:21 – 26:22

Você quer transferir uma quantia.

26:22 – 26:25

E existe esse agente de IA que vai fazer isso por você.

26:25 – 26:29

Bem, como você deve encarar o fato de ser alfabetizado nesse mundo, e se esse é o seu papel?

26:29 – 26:37

O mais importante é que a parte de baixo se trata de aprender a interagir com a tecnologia, e não apenas como resultado dela.

26:37 – 26:38

Isso é realmente muito, muito importante.

26:39 – 26:47

você quer que seus usuários e clientes tenham uma compreensão crítica dos resultados e saibam como agir ou se a tecnologia deve ou não assumir

26:47 – 26:48

uma ação por eles.

26:48 – 26:54

Portanto, em vez de aceitarem cegamente, eles devem, na verdade, ser capazes de interagir com a tecnologia.

26:54 – 27:03

E, na verdade, essa é uma experiência muito melhor para quem usa qualquer coisa: quando você interage com ela e realmente vê e compreende os benefícios de trabalhar com

27:03 – 27:03

ela.

27:05 – 27:14

E, para o segundo nível de pessoas — os gerentes de produto, os gerentes de equipe, os proprietários de produto —, o mais importante é ser capaz de perceber quando as coisas estão dando errado,

27:14 – 27:15

quando as coisas não estão funcionando bem.

27:15 – 27:18

Isso é ainda mais importante na era da IA generativa.

27:18 – 27:20

Lembre-se: ela está incorreta com convicção.

27:20 – 27:21

Ela vai dizer “saída”.

27:21 – 27:28

Acho que, na semana passada, o grande escândalo foi o número de advogados que agora estão usando o ChatGPT para ajudá-los a redigir suas petições judiciais.

27:28 – 27:30

E adivinhem o que o ChatGPT faz?

27:30 – 27:31

Ele tem alucinações.

27:31 – 27:35

Então, ele está inventando casos que simplesmente não existem.

27:35 – 27:40

Então, mais uma vez, trata-se de ser inteligente o suficiente para questionar a tecnologia.

27:40 – 27:42

Observe as fontes que ela está apresentando.

27:42 – 27:43

Verifique tudo com cuidado.

27:43 – 27:46

Hum… E ser capaz de questionar o sistema.

27:47 – 27:52

E então, quando você é o desenvolvedor, o criador, o programador, a pessoa que coloca a mão no código.

27:52 – 27:54

as perguntas são as mais retóricas.

27:54 – 27:57

Onde está o poder no sistema?

27:57 – 28:05

Se houvesse um ser humano envolvido e Stanislav Petrov tivesse que decidir se deveria ou não detonar uma arma nuclear, ele seria capaz de realmente dizer não?

28:05 – 28:08

Ou ele teria simplesmente que seguir o que a IA dissesse?

28:08 – 28:16

Então, como se projeta um sistema para que haja a presença real do ser humano no processo, de modo que as pessoas possam realmente participar?

28:16 – 28:22

Minha maneira de abordar isso — e sei que a Anna fez a introdução — é que eu dirijo uma organização chamada Humane Intelligence.

28:22 – 28:34

Sou estatístico de formação, cientista social, e o que me interessa na IA Geracional é o fato de que cada pessoa terá essa tecnologia ao seu alcance.

28:34 – 28:42

E, durante meu tempo na Accenture, eu realmente refleti sobre essa questão: o que significa ter o ser humano no ciclo e o que significa ter garantia de IA?

28:42 – 28:50

A garantia de IA é simplesmente a capacidade de afirmar que este produto ou esta tecnologia vai agir, vai fazer o que eu imagino, o que prometi que ela faria.

28:50 – 28:51

E com o Gen.

28:51 – 28:52

IA, isso é realmente muito, muito difícil.

28:52 – 28:55

Então, como você faz isso dentro de uma organização?

28:55 – 28:58

Este é um artigo que escrevemos em 2020 sobre o assunto.

28:58 – 29:09

Na verdade, trata-se de ter processos claros e que permitam a prestação de contas, de distribuir a responsabilidade e também de ser transparente e, de fato, mais responsável em relação ao que o sistema pode ou não fazer.

29:10 – 29:16

Durante meu tempo no Twitter, eu fiz algo bastante radical: abri nosso código para análise pública.

29:16 – 29:19

Ora, o conceito de recompensa por bugs aqui na segurança cibernética não é novidade.

29:19 – 29:23

Mas um programa de recompensa por bugs algorítmicos era algo que nunca havia acontecido antes.

29:23 – 29:27

Então, abrimos nosso código para o mundo inteiro e dissemos: encontrem problemas, e nós lhes daremos dinheiro.

29:27 – 29:31

Na verdade, acabei criando uma organização sem fins lucrativos, a Human Intelligence, para realizar esse trabalho.

29:31 – 29:40

Então, trabalhamos com uma ampla gama de organizações, governos, grupos da sociedade civil e assim por diante, para realizar esses tipos de programas de recompensa por identificação de preconceitos.

29:41 – 29:44

E a novidade pela qual sou conhecido é o “red teaming”.

29:44 – 29:48

Então, mais uma vez, se você vem da área de segurança cibernética, o “red teaming” não é um conceito novo.

29:48 – 29:58

Mas a compreensão do uso do “red teaming” não se limita apenas a entender agentes mal-intencionados, mas também as consequências indesejadas quando seu sistema apresenta mau funcionamento, mesmo que não tenha sido intencional

29:58 – 30:00

ação intencional do usuário, é, na verdade, bastante difícil de se fazer.

30:00 – 30:04

E a maneira como abordei isso foi o que chamei de “feedback público estruturado”.

30:04 – 30:10

O que mais me tornou conhecido foi esse evento em que tivemos mais de 3.000 pessoas na DEF CON, que é o maior evento de segurança cibernética

30:10 – 30:18

do mundo, na qual, de fato, hackearam e analisaram, hum, oito modelos diferentes de IA, trabalhando em conjunto com os proprietários dos modelos e as empresas.

30:18 – 30:20

E isso vai contra a Carta de Direitos da IA.

30:20 – 30:26

Portanto, independentemente de esses modelos revelarem ou não dados pessoais, ou de apresentarem alucinações.

30:26 – 30:30

E trabalhamos com o governo dos EUA e com o governo Biden para realizar esse trabalho.

30:30 – 30:32

E continuamos a fazer isso até hoje.

30:33 – 30:40

E o que é fascinante é que, embora a pessoa comum possa ter essa tecnologia nas mãos, estamos cada vez mais distantes de

30:40 – 30:43

da capacidade de dar feedback sobre se está ou não funcionando.

30:43 – 30:46

Então, um dos projetos que realizamos foi em parceria com o Instituto Nacional de Padrões e Tecnologia.

30:46 – 30:50

E abrimos esse conceito de “red teaming” para qualquer pessoa nos Estados Unidos.

30:50 – 30:52

E isso, na verdade, aconteceu no ano passado.

30:52 – 31:00

Assim, qualquer pessoa nos Estados Unidos poderia, de fato, realizar testes de red teaming em modelos de IA e enviar feedback ao NIST para ajudar a criar padrões melhores sobre como essa tecnologia deve funcionar.

31:01 – 31:05

E, na verdade, o motivo pelo qual trabalho — fiz uma palestra no TED no ano passado sobre esse conceito de direito à reparação.

31:05 – 31:12

E o “red teaming” é um ponto de partida: essa ideia de simplesmente construir essa base de conhecimento e esse reflexo para que as pessoas possam dizer: “Ei, tem algo errado aqui”.

31:12 – 31:13

Quero levantar a mão.

31:13 – 31:15

Quero poder apontar isso.

31:15 – 31:20

Na verdade, isso não é algo que tenhamos pensado em incorporar à tecnologia que temos.

31:20 – 31:27

Então, como você pode utilizar a IA para resolver problemas de forma positiva e produtiva?

31:28 – 31:30

E então, o que vem a seguir?

31:30 – 31:31

Então, a IA é uma ferramenta de produtividade, certo?

31:31 – 31:32

Então, não é mágica.

31:32 – 31:33

Ela não tem intenção.

31:33 – 31:36

Não é arrastar o professor do seu filho para fora da sala de aula.

31:36 – 31:41

Então, quando você pensa em desenvolver e implementar IA, como pode pensar nisso colocando o usuário em primeiro lugar, certo?

31:41 – 31:49

Então, como você avalia os pontos críticos do que a IA faz bem e, o que é igualmente importante, do que as pessoas fazem bem, e como unir esses dois aspectos?

31:49 – 31:53

E, por fim, como você pode utilizar esse sistema para resolver problemas?

31:53 – 31:57

E, mais uma vez, quando pensamos nessa ideia do “human in the loop”, não se trata apenas de uma expressão.

31:57 – 31:58

Não é apenas um termo.

31:58 – 32:00

É o que as pessoas estão buscando hoje.

32:01 – 32:05

Sabe, estamos em um nível de confiança mais baixo do que nunca no que diz respeito aos sistemas de IA.

32:05 – 32:10

Durante meu período no governo Biden como enviado científico, tive o privilégio de viajar pelo mundo inteiro.

32:10 – 32:20

E você ficaria surpreso com a reação de todos, desde, você sabe, os anciãos tribais em Fiji até o jovem mais sofisticado que trabalha com o Gen.

32:20 – 32:20

IA.

32:20 – 32:22

Todos têm as mesmas perguntas.

32:22 – 32:28

Há perguntas sobre privacidade de dados, segurança, se os algoritmos estão ou não sendo utilizados, se as pessoas estão ou não sendo manipuladas por algoritmos.

32:28 – 32:31

e se isso está sendo usado de forma maliciosa contra eles.

32:31 – 32:33

Todo mundo tem as mesmas dúvidas.

32:33 – 32:39

Portanto, se você quer construir confiança nos sistemas que está criando, pense primeiro no usuário, não na tecnologia.

32:39 – 32:41

Muito obrigado pelo seu tempo.

32:46 – 32:47

Obrigado, doutor.

32:47 – 32:49

Chaldry, foi absolutamente fantástico.

32:49 – 32:50

Agradecemos sua presença aqui hoje.

32:50 – 32:51

Muito obrigado.