{"id":79962,"date":"2023-05-13T04:20:50","date_gmt":"2023-05-13T07:20:50","guid":{"rendered":"https:\/\/asmetro.org.br\/portalsn\/?p=79962"},"modified":"2023-05-13T05:03:22","modified_gmt":"2023-05-13T08:03:22","slug":"o-professor-que-foi-considerado-louco-e-alarmista-e-vem-acertando-previsoes-sobre-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/asmetro.org.br\/portalsn\/2023\/05\/13\/o-professor-que-foi-considerado-louco-e-alarmista-e-vem-acertando-previsoes-sobre-inteligencia-artificial\/","title":{"rendered":"O professor que foi considerado ‘louco e alarmista’ e vem acertando previs\u00f5es sobre intelig\u00eancia artificial"},"content":{"rendered":"
\n

“Algo inacredit\u00e1vel est\u00e1 acontecendo na intelig\u00eancia artificial neste momento \u2014 e n\u00e3o \u00e9 inteiramente para o bem”, escreveu seis meses atr\u00e1s Gary Marcus, professor em\u00e9rito da Universidade de Nova York (NYU), nos Estados Unidos, e uma das principais vozes no debate sobre a IA na atualidade.<\/p>\n<\/div>\n

\n

Em sua vis\u00e3o, o lan\u00e7amento do ChatGPT nos est\u00e1 levando ao “momento Jurassic Park” das m\u00e1quinas: a possibilidade \u2014 como no filme de Steven Spielberg \u2014 de que a situa\u00e7\u00e3o fuja do controle.<\/p>\n<\/div>\n

\n

“Quando escrevi esse artigo, acho que as pessoas pensaram que eu era louco ou alarmista”, afirmou Marcus, em entrevista \u00e0 BBC News Brasil.<\/p>\n<\/div>\n

\n

Mas s\u00e9rios problemas com esse tipo de intelig\u00eancia artificial come\u00e7aram a proliferar em 2023: em mar\u00e7o, na B\u00e9lgica, um homem que conversava frequentemente com o chatbot Eliza, da empresa Chai, cometeu suic\u00eddio.<\/p>\n<\/div>\n

\n

A esposa sustenta que o contato com o programa o levou a tirar a pr\u00f3pria vida. Para o governo belga, o caso \u00e9 “um precedente que deve ser levado a s\u00e9rio” e “o perigo do uso [de intelig\u00eancia artificial] \u00e9 uma realidade que precisa ser considerada”.<\/p>\n<\/div>\n

\n

Foi um cen\u00e1rio poss\u00edvel descrito quatro meses antes por Marcus em artigo para a revista Wired: “Talvez um chatbot v\u00e1 magoar algu\u00e9m t\u00e3o profundamente que a pessoa ser\u00e1 levada a acabar com a sua vida? (…) Em 2023, n\u00f3s talvez vejamos nossa primeira morte por um chatbot”.<\/p>\n<\/div>\n

\n

“Acho que esses sistemas podem ser muito destrutivos. E parte do motivo do potencial de destrui\u00e7\u00e3o \u00e9 que eles n\u00e3o s\u00e3o confi\u00e1veis. Esses programas podem inventar algo e dizer [a um usu\u00e1rio] que isso \u00e9 um fato. E eles tamb\u00e9m podem ser usados por pessoas com essa finalidade”, diz.<\/p>\n<\/div>\n

\n

“Os sistemas de intelig\u00eancia artificial que temos agora n\u00e3o s\u00e3o bem controlados. Ainda n\u00e3o \u00e9 uma situa\u00e7\u00e3o terr\u00edvel, mas as pessoas est\u00e3o dando mais e mais poderes a eles. E n\u00e3o sabemos o que esses sistemas podem executar em uma determinada situa\u00e7\u00e3o.”<\/p>\n<\/div>\n

\n

‘Sete previs\u00f5es sombrias’<\/strong><\/h4>\n<\/div>\n
\n

Marcus compilou no ano passado “sete previs\u00f5es sombrias” sobre sistemas como o ChatGPT, entre elas a de que a vers\u00e3o mais nova do programa seria como um “touro em uma loja de porcelanas, imprudente e dif\u00edcil de controlar. Far\u00e1 um significativo n\u00famero de erros est\u00fapidos, de fazer balan\u00e7ar a cabe\u00e7a, em maneiras dif\u00edceis de prever”.<\/p>\n<\/div>\n

\n

No final de mar\u00e7o, um caso bizarro chamou a aten\u00e7\u00e3o. Uma pessoa pediu ao ChatGPT para citar acad\u00eamicos envolvidos em epis\u00f3dios de ass\u00e9dio sexual.<\/p>\n<\/div>\n

\n

A lista mencionava um professor norte-americano de Direito, Jonathan Turley. O programa disse que Turley fez coment\u00e1rios sexualmente sugestivos a uma aluna durante uma viagem ao Alasca e tentou toc\u00e1-la. A resposta citava como evid\u00eancia uma reportagem de 2018 do jornal The Washington Post.<\/p>\n<\/div>\n

\n

Mas nada disso jamais existiu: nem a viagem, nem a reportagem ou mesmo a acusa\u00e7\u00e3o. S\u00f3 o professor e sua reputa\u00e7\u00e3o eram de verdade. \u00c9 como se o rob\u00f4 tivesse inventado uma cal\u00fania.<\/p>\n<\/div>\n

\n

A OpenAI, empresa do ChatGPT, divulgou um comunicado dizendo que o programa “nem sempre gera respostas precisas”.<\/p>\n<\/div>\n

\n

Para Marcus, “n\u00e3o temos nenhuma garantia formal de que esses programas v\u00e3o trabalhar da forma correta, mesmo quando fazem c\u00e1lculos matem\u00e1ticos. \u00c0s vezes eles est\u00e3o corretos, \u00e0s vezes n\u00e3o. Falta de controle e de confiabilidade s\u00e3o problemas que enxergo”.<\/p>\n<\/div>\n

\n

“A sua calculadora tradicional tem a garantia de uma resposta aritm\u00e9tica. Mas os grandes modelos de linguagem, n\u00e3o.”<\/p>\n<\/div>\n

\n

Ele se refere ao sistema por tr\u00e1s do ChatGPT, os LLMs (sigla em ingl\u00eas para large language models<\/i>), que armazenam quantidades gigantescas de dados e geram, por meio de poderosos algoritmos, respostas por aproxima\u00e7\u00e3o baseadas no que j\u00e1 foi dito antes por humanos.<\/p>\n<\/div>\n

\n

Em resumo: um papagaio ultrassofisticado, mas que n\u00e3o faz ideia do que est\u00e1 falando e \u00e0s vezes “alucina” \u2014 um termo da IA que designa uma resposta fora do esperado, desalinhada da expectativa dos programadores.<\/p>\n<\/div>\n

\n

“Os LLMs n\u00e3o s\u00e3o t\u00e3o inteligentes assim, mas s\u00e3o perigosos”, diz Marcus, que tamb\u00e9m colocou o crescimento de momentos de alucina\u00e7\u00e3o dentro de sua lista de “previs\u00f5es sombrias”.<\/p>\n<\/div>\n

\n
\n
\n
\n
\n
\n
\n
\"Tela
O ChatGPT ultrapassou 100 milh\u00f5es de usu\u00e1rios ap\u00f3s seu lan\u00e7ament @getty images<\/figcaption><\/figure>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/figure>\n<\/div>\n
\n

Al\u00e9m dos geradores de texto, os programas que manipulam imagens tamb\u00e9m evoluem rapidamente.<\/p>\n<\/div>\n

\n

Recentemente uma foto do papa Francisco com uma descolada jaqueta prata, feita com o programa Midjourney, deixou a internet confusa por algumas horas: aquela imagem era real?<\/p>\n<\/div>\n

\n

O epis\u00f3dio teve consequ\u00eancias inofensivas, mas foi uma amostra do potencial para inaugurar uma zona cinzenta permanente entre fatos e falsifica\u00e7\u00f5es.<\/p>\n<\/div>\n

\n

“A n\u00e3o ser que a gente tome provid\u00eancias, estamos pr\u00f3ximos de entrar em um ambiente de p\u00f3s-verdade”, afirma o professor da NYU.<\/p>\n<\/div>\n

\n

“O que torna tudo muito dif\u00edcil para a democracia. Precisamos de san\u00e7\u00f5es para quem produz desinforma\u00e7\u00e3o em massa, exigir marcas d’\u00e1gua para identificar de onde vem a informa\u00e7\u00e3o e criar novas tecnologias para detectar inverdades. Assim como existe programa de antiv\u00edrus, precisamos de software antidesinforma\u00e7\u00e3o.”<\/p>\n<\/div>\n

\n

‘O capitalismo n\u00e3o vai resolver esses problemas’<\/strong><\/h4>\n<\/div>\n
\n

A experi\u00eancia de Marcus, de 53 anos, n\u00e3o \u00e9 restrita ao mundo acad\u00eamico. Ele vendeu uma empresa para o Uber e se tornou diretor de um laborat\u00f3rio de IA da gigante dos apps de transporte \u2014 deixou o cargo depois de apenas quatro meses, num per\u00edodo em que a companhia enfrentava acusa\u00e7\u00f5es de manter um ambiente “t\u00f3xico”.<\/p>\n<\/div>\n

\n

Questionado se o famoso mantra “mova-se r\u00e1pido e quebre coisas” do Vale do Sil\u00edcio e a competi\u00e7\u00e3o desenfreada por mercados justamente n\u00e3o cria circunst\u00e2ncias perigosas para o desenvolvimento da intelig\u00eancia artificial, ele diz que “n\u00e3o d\u00e1 para esperar que o capitalismo, por si s\u00f3, v\u00e1 resolver esses problemas”.<\/p>\n<\/div>\n

\n

Ele defende que as empresas sejam objeto de regulamenta\u00e7\u00e3o e cita o mercado de avia\u00e7\u00e3o como um exemplo de que \u00e9 algo necess\u00e1rio.<\/p>\n<\/div>\n

\n

“O setor a\u00e9reo na d\u00e9cada de 1950 era um desastre. Os avi\u00f5es ca\u00edam o tempo todo. A regulamenta\u00e7\u00e3o foi boa para o setor a\u00e9reo, conseguiu que a ind\u00fastria a\u00e9rea desenvolvesse um produto melhor no final das contas”, afirma.<\/p>\n<\/div>\n

\n

“Deixar as coisas nas m\u00e3os das empresas n\u00e3o necessariamente leva ao caminho correto. Voc\u00ea quer que as empresas sejam parceiras para construir o que precisa ser feito. Mas h\u00e1 uma raz\u00e3o para ter governos, certo?”<\/p>\n<\/div>\n

\n
\n
\n
\n
\n
\n
\n
\"Cartaz
Cartaz na greve dos roteiristas de Hollywood diz: “A intelig\u00eancia artificial n\u00e3o tem alma” @getty images<\/figcaption><\/figure>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/figure>\n<\/div>\n
\n

Entendimento com o ‘padrinho da IA’<\/strong><\/h4>\n<\/div>\n
\n

O posicionamento de cautela e desconfian\u00e7a com o entusiasmo pela r\u00e1pida evolu\u00e7\u00e3o da IA nem sempre foi bem recebido.<\/p>\n<\/div>\n

\n

O ceticismo de Marcus foi ironizado em outros anos por seus pares (principalmente em alfinetadas pelo Twitter), mas a mar\u00e9 mudou: diversas personalidades da \u00e1rea come\u00e7aram a adotar um tom diferente.<\/p>\n<\/div>\n

\n

Geoffrey Hinton, chamado de “padrinho da IA”, anunciou seu desligamento do Google e afirmou logo na sequ\u00eancia que considera os problemas com intelig\u00eancia artificial “talvez mais urgentes do que os da mudan\u00e7a clim\u00e1tica”.<\/p>\n<\/div>\n

\n

“Eu e Hinton temos vis\u00f5es diferentes sobre alguns aspectos da intelig\u00eancia artificial. Eu me correspondi com ele h\u00e1 pouco, eu expliquei a minha posi\u00e7\u00e3o e ele concordou comigo, o que nem sempre acontece. Mas a quest\u00e3o principal em que concordamos \u00e9 controle”, afirma.<\/p>\n<\/div>\n

\n

“N\u00e3o necessariamente concordo que [IA] seja uma amea\u00e7a maior do que a mudan\u00e7a clim\u00e1tica, mas \u00e9 dif\u00edcil saber. H\u00e1 muitos dados estabelecidos para tentar estimar os riscos das mudan\u00e7as clim\u00e1ticas. Mas com a intelig\u00eancia artificial n\u00f3s nem sabemos como calcular esses riscos.”<\/p>\n<\/div>\n

\n

“Mas, para mim, a chance de que essas ferramentas sejam usadas para abalar democracias \u00e9 essencialmente de 100%. Agora, se h\u00e1 chance de os rob\u00f4s dominarem o planeta, n\u00e3o temos ideia. \u00c9 razo\u00e1vel que algumas pessoas se dediquem a esse cen\u00e1rio. Estamos construindo ferramentas muito poderosas. Devemos considerar essas amea\u00e7as.”<\/p>\n

Cr\u00e9dito: Shin Suzuki \/ <\/span><\/span>BBC News Brasil – @ dispon\u00edvel na internet 13\/05\/2023<\/span><\/strong><\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

“Algo inacredit\u00e1vel est\u00e1 acontecendo na intelig\u00eancia artificial neste momento \u2014 e n\u00e3o \u00e9 inteiramente para o bem”, escreveu seis meses atr\u00e1s Gary Marcus, professor em\u00e9rito da Universidade de Nova York (NYU), nos Estados Unidos, e uma das principais vozes no debate sobre a IA na atualidade. Em sua vis\u00e3o, o lan\u00e7amento do ChatGPT nos est\u00e1 […]<\/p>\n","protected":false},"author":4,"featured_media":79963,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"ngg_post_thumbnail":0,"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[133],"tags":[],"class_list":{"0":"post-79962","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-destaques"},"jetpack_featured_media_url":"https:\/\/i0.wp.com\/asmetro.org.br\/portalsn\/wp-content\/uploads\/2023\/05\/58774340-ede8-11ed-8ed8-7b6281f35002.jpg?fit=1200%2C673&ssl=1","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/asmetro.org.br\/portalsn\/wp-json\/wp\/v2\/posts\/79962","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/asmetro.org.br\/portalsn\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/asmetro.org.br\/portalsn\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/asmetro.org.br\/portalsn\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/asmetro.org.br\/portalsn\/wp-json\/wp\/v2\/comments?post=79962"}],"version-history":[{"count":1,"href":"https:\/\/asmetro.org.br\/portalsn\/wp-json\/wp\/v2\/posts\/79962\/revisions"}],"predecessor-version":[{"id":79964,"href":"https:\/\/asmetro.org.br\/portalsn\/wp-json\/wp\/v2\/posts\/79962\/revisions\/79964"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/asmetro.org.br\/portalsn\/wp-json\/wp\/v2\/media\/79963"}],"wp:attachment":[{"href":"https:\/\/asmetro.org.br\/portalsn\/wp-json\/wp\/v2\/media?parent=79962"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/asmetro.org.br\/portalsn\/wp-json\/wp\/v2\/categories?post=79962"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/asmetro.org.br\/portalsn\/wp-json\/wp\/v2\/tags?post=79962"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}