- há 8 horas
Categoria
🤖
TecnologiaTranscrição
00:00E nos últimos dias foram revelados novos episódios de comportamentos inesperados de agentes de IA.
00:09Pesquisadores alertaram para o risco cada vez maior de perdermos o controle da tecnologia.
00:16Além disso, surgiram denúncias de uso indevido das ferramentas.
00:22A pergunta que fica é, chegou a hora de desacelerar o avanço da inteligência artificial?
00:30Vamos ver a reportagem.
00:34O CEO da OpenAI, Sam Altman, disse a funcionários que a empresa considera reduzir o ritmo de desenvolvimento de inteligências
00:42artificiais avançadas.
00:44A possibilidade foi discutida em uma reunião geral nesta semana.
00:47A ideia seria acompanhar o ritmo de alguns laboratórios concorrentes, embora o executivo tenha reconhecido que nem todas as empresas
00:54aceitariam participar de uma eventual desaceleração.
00:57A discussão ganhou força após alertas do cientista-chefe e de um conselheiro da OpenAI.
01:04Ambos defenderam que uma redução na velocidade de desenvolvimento da IA é fundamental para evitar a perda de controle da
01:11tecnologia.
01:12Opinião que também é compartilhada por alguns profissionais do DeepMind, laboratório de inteligência artificial do Google.
01:18Um dos maiores pontos de preocupação é a possibilidade de a IA assumir parte do próprio desenvolvimento da tecnologia.
01:25Nos últimos dias, um pesquisador d'Antropic chegou a estimar em mais de 10% a possibilidade de a IA
01:31matar todos os humanos na próxima década.
01:33Além de reduzir a velocidade de desenvolvimento, todos eles defendem a criação de mecanismos de segurança mais robustos.
01:40O alerta ocorre após comportamentos inesperados de agentes de IA durante treinamentos.
01:44Mas a discussão vai além do que a tecnologia pode fazer por conta própria.
01:48Nessa semana, a Antropic revelou que precisou interromper o uso do cloud em algumas situações.
01:54Em uma delas, a ferramenta estava sendo utilizada pelos HUTIs, grupo rebelde do Iêmen, na tentativa de desenvolver mísseis e
02:01armas teleguiadas.
02:02Além disso, a empresa informou que bloqueou tentativas de usar a sua inteligência artificial para criar armas biológicas,
02:08coordenar ataques cibernéticos contra a Ucrânia e extrair capacidades dos modelos por empresas chinesas.
02:19E vamos repercutir esses assuntos super importantes agora com o Arthur Igreja, que é especialista em tecnologia e inovação.
02:30Vamos bater um papo aqui com o Arthur Igreja. Vamos lá.
02:35Olá, Arthur Igreja. Muitíssimo. Boa noite. Seja mais uma vez muito bem-vindo aqui no Olhar Digital News.
02:42Olá, boa noite, Marisa.
02:44Arthur Igreja. Hoje vamos falar de um assunto que está aí em todos os lugares e preocupando muita gente.
02:50Um dos maiores alertas, aliás, levantados por pesquisadores da área é o chamado autoaperfeiçoamento da IA.
03:00O que significa isso, Arthur? E por que ele preocupa tanto?
03:06Olha, preocupa porque é uma tecnologia que ela pode intervir nela mesma.
03:10Então, isso é algo que estava previsto, ou seja, a inteligência artificial é desenvolvida pelos humanos,
03:17mas com o aumento da sua potência, da sua capacidade e principalmente da sua agência,
03:23que é a capacidade de agir sozinho, ela começa a desenvolver os próximos modelos ou fazer autoajustes.
03:32Então, esse seria o autoaperfeiçoamento, a capacidade cada vez maior que a inteligência artificial tem de desenvolver a inteligência artificial.
03:44Preocupa justamente por isso, porque você vai tendo uma intervenção humana menor ao longo do tempo.
03:51O Sun Altman, que é o CEO da OpenAI, parece bastante inclinado em desacelerar o avanço da IA.
03:59Você acredita que as principais empresas do setor podem se unir em um movimento do tipo?
04:06E mais, o que pode acontecer caso não haja um consenso e apenas alguns pensem dessa forma?
04:13Olha, esse episódio me lembra muito aquilo que aconteceu em 30 de setembro de 23,
04:20onde nós tivemos aqueles mais de mil signatários naquela carta que pedia seis meses de paralisação no desenvolvimento da IA,
04:28porque ela estava ficando muito perigosa.
04:30Então, cá estamos mais de três anos depois e não aconteceu isso.
04:35Então, quem puxou aquele movimento, quer dizer, um dos grandes representantes daquele movimento era o Elon Musk,
04:41e o que ele fez logo na sequência foi lançar a XAI, que hoje faz parte da SpaceX e nunca
04:48mais tocou no assunto.
04:49Quer dizer, pontualmente fala sobre os riscos da IA, desse potencial, essa ameaça mais extensa,
05:02mas continua desenvolvendo IA a pleno vapor.
05:05Então, agora é a vez do Sun Altman.
05:07O Sun Altman, no passado, também já foi uma voz importante falando sobre esses perigos.
05:12Agora, imaginar que todas as empresas do setor, ou uma parte importante, eles vão se unir,
05:20eu pessoalmente acho bastante difícil.
05:22E basta lembrar também o que aconteceu no começo desse ano.
05:25Por exemplo, a Antropic foi lá e cancelou um contrato justamente porque envolvia autonomia da IA,
05:34especialmente nos ataques, nas armas autônomas.
05:37E aí, o que a OpenAI fez logo na sequência?
05:40Assumiu esses contratos, então é difícil saber até onde vai o comunicado,
05:48até onde vai o blefe, até onde é preocupação genuína.
05:52É claro, é preciso respeitar.
05:54São as principais vozes do setor, estão vendo isso com certeza com uma recursividade,
06:01com uma capacidade muito maior do que aquela que nós enxergamos.
06:06Mas é difícil imaginar que vai ter uma aliança nesse sentido.
06:09Eu acredito muito mais que nós teremos algum estabelecimento de limites,
06:14como nós vimos na reportagem, foi usada para isso, não pode.
06:20Desenvolvimento de armas biológicas, de armas autônomas,
06:24mas eu acho que vai ser muito mais uma questão de estabelecer usos e limites
06:28do que paralisar o desenvolvimento ou frear o seu desenvolvimento.
06:32Agora, Arthur, inclusive nesse tema, além do risco da IA agir por conta própria,
06:39ainda foram reveladas tentativas de uso de ferramentas por grupos armados
06:44e até mesmo, como você disse, para criar armas biológicas.
06:47Agora, nesse momento, o que mais preocupa?
06:50Vai IA fugindo do controle, que é sério também, ou gente mal intencionada usando ela?
06:57Olha, eu tendo a ter mais medo das pessoas, até porque nós temos que lembrar que
07:03se nós pensarmos, né, eu vou estabelecer aqui dois raciocínios.
07:07Primeiro, quem desenvolve as IAs são pessoas.
07:12Então, se ela começar a ter determinados comportamentos e quem é fruto, em alguma medida,
07:19das decisões tomadas durante o desenvolvimento, e se isso não for paralisado,
07:24também é uma decisão de uma pessoa, né?
07:27Então, de não colocar um filtro, colocar uma barreira.
07:29Então, eu acho complicada essa narrativa de que a IA, ela passou a tomar decisões,
07:37que ela fez escolhas, que ela se rebelou.
07:41Ela foi projetada por pessoas, né?
07:44Alguém foi lá, projetou, estabeleceu um modelo, deu o play nisso tudo e são pessoas, né?
07:51Fora que eu fico bastante incomodado com a falta de método e evidência.
07:56Por exemplo, muita gente ficou muito assustada, né?
07:59Quando um dos especialistas disse, alguns dias atrás, até nós vimos na reportagem, né?
08:04Ah, a IA, até o final da década, tem mais de 10% de acabar com a humanidade.
08:10Fico eu me perguntando, mas como é que ele calculou isso?
08:12Por que que não é 15? Por que que não é 7? Por que que é 10?
08:17Mostra pra gente como é que calcula isso.
08:20Qual que é a hipótese, qual que é a premissa de uma pessoa que saiu da empresa.
08:24E isso já aconteceu no passado também, algum tempo atrás, alguns anos atrás,
08:29teve um profissional que saiu de uma dessas empresas e falou o seguinte,
08:33estou saindo porque me desiludi com a indústria e ela tá prestes a sair de controle.
08:40Isso aconteceu há 4 anos atrás, então será que não é um episódio como esse?
08:44Um indivíduo vocalizando isso?
08:46Acho muito complicado, sabe?
08:48E eu acho que se nós colocarmos numa tabela de riscos, olha, eu tenho mais medo até o final da
08:55década
08:56de pessoas tomarem decisões erradas que podem levar a um extermínio de muitas pessoas do que a IA, sabe?
09:05Nós sempre estivermos, se nós pensarmos desde a Segunda Guerra Mundial pra cá,
09:09nós sempre estivermos muito mais perto de alguém apertar um botão e começar um ataque nuclear
09:15do que uma IA sair de controle.
09:16Então, eu não tô minimizando o risco, eu não tô dizendo que ele não existe,
09:20só me incomoda quando nós temos, sabe, pessoa A, que é um indivíduo,
09:26afirma que é 10%, nós não sabemos como é que ele chegou nesse número,
09:29e até 2030.
09:31Pô, peraí, né?
09:32Então, acho que nós temos que analisar número, evidência, método,
09:36Enfim, e com relação a esse risco, por exemplo,
09:43Sumiu, perdemos o risco.
09:45Não é diferente de outras coisas.
09:48O acesso a enriquecimento de armas nucleares, acesso a armas biológicas,
09:56software avançado se tornou um novo tipo de arma,
10:00um novo tipo de ferramenta que tem potencial de danos,
10:03mas também tem potencial de cura,
10:05tem potencial de desenvolvimento de drogas, medicamentos,
10:09melhorar a nossa vida.
10:10Então, quer dizer, pra variar,
10:12nós não podemos demonizar a ferramenta ou a tecnologia,
10:16nós temos que apurar e direcionar o bom uso.
10:20Bom, nós tivemos uma pequena falinha ali no áudio do Arthur Igreja,
10:24mas deu pra concorrer bastante bem o raciocínio, viu, Arthur?
10:26Perdão, mas acho que foi interno aqui.
10:28Sumiu um trechinho aí da sua fala,
10:30mas eu acho que deu pra concluir bastante bem o pensamento.
10:34Agora, até Arthur Igreja, diante desse cenário, né,
10:37pro público em geral,
10:38ele deveria ficar preocupado com o uso da IA ali no seu dia a dia?
10:43Ou esse é mais um debate que ainda fica restrito
10:46no campo, digamos, técnico e corporativo?
10:51Ah, tá muito mais no campo técnico e corporativo.
10:53Bom, espero que o meu áudio não tenha caído pela IA, né?
10:56De alguma forma, discordando aqui da minha opinião.
11:00Não, mas pro usuário comum, a preocupação tá numa esfera
11:04que nós não temos qualquer tipo de influência,
11:08qualquer tipo de interferência.
11:11Então, as ferramentas que chegam até nós,
11:13elas já passaram por esse crivo, por esses filtros.
11:17Então, meu raciocínio continua sendo o mesmo.
11:21É uma tecnologia...
11:22Volto a fazer o paralelo, por exemplo, com a radioatividade, né?
11:25Na mesma medida que pode ser destrutiva, ameaçadora e danosa,
11:30nos ajuda a fazer exames que salvam muitas vidas todos os anos, né?
11:35Então, a radioatividade, o seu controle,
11:38salva a vida todos os anos.
11:39Então, a questão é usar a tecnologia
11:43pro bem, pra parâmetros que ajudem as pessoas,
11:46a sociedade, eu acho muito complicado estabelecer um corte
11:52que seja aí restrito, transversal, amplo.
11:54Tá muito mais relacionado a que tipo de uso, né?
11:58A como a ferramenta é usada.
12:00Então, é claro que é uma tecnologia que tá avançando incrivelmente
12:04de forma rápida.
12:06Muitas pessoas vão cair na tentação de...
12:08Ah, isso aí já apareceu num filme, já...
12:11Claro, os filmes, eles...
12:12Se eles fossem absolutamente neutros,
12:17eles se chamariam documentários, né?
12:19Os filmes são feitos pra chocar, pra aterrorizar.
12:23Então, acho que tem que ter bastante calma
12:24em relação a tudo isso.
12:26E precisamos lembrar que, por fim,
12:29alguns desses anúncios têm lá suas pitadas de marketing também, né?
12:32Então, enfim, acho que precisamos ter bastante calma
12:36e acompanhar tudo isso muito de perto.
12:38Até por isso que o olhar digital é tão importante.
12:42Pois é, e com certeza esse assunto ainda vai circular bastante
12:45aqui no olhar digital, em várias reportagens.
12:48Então, Arthur, eu queria até pra gente encerrar
12:51que você falasse sobre a regulação da IA,
12:55se ela seria suficiente ou não pra resolver essas questões
12:59que, a princípio, ainda estão no campo de especulações, não é?
13:02Olha, eu acho que é um debate super importante
13:04justamente pra estabelecer esse tipo de limite, né?
13:07Do tipo, esse debate que nós tivemos no começo do ano
13:10foi imprescindível, né?
13:12Foi a Antropic que estabeleceu uma autorregulação,
13:16um limite, uma linha em que ela disse
13:18eu não vou liberar o meu modelo
13:20pra tomada de decisão de ataques, né?
13:24Tomada de decisão, por exemplo, de drones
13:26que podem fazer bombardeios, né?
13:29Nós estamos vendo agora, inclusive, veículos submersos
13:34que também têm capacidade de ataque, né?
13:36Como se fossem drones, só que dentro da água, né?
13:40Submarinos que têm potencial de ataque.
13:43Mas foi a Antropic que fez isso, não foi?
13:45Uma coalizão internacional.
13:47Então, volto a dizer, eu acho que esse tipo de limite
13:50tem tudo a ver com esferas internacionais
13:53que nesse momento estão fragilizadas, estão esgarçadas.
13:57É uma pena, né?
13:59Porque tem a ver com a utilização.
14:02E isso chama-se um acordo, chama-se regulação do tipo
14:06olha, a empresa de IA não pode desenvolver IA
14:10ou não pode permitir a utilização dos seus modelos para, né?
14:16E aí tem alguns casos que ficam muito evidentes, né?
14:21Planejamento de atividades que podem acabar
14:24em terrorismo, desenvolvimento de armas.
14:27Olha, não é diferente do que aconteceu
14:29com a chegada da manufatura aditiva,
14:32da impressão 3D.
14:33O que aconteceu?
14:34Teve gente que começou a fazer armas
14:38que passavam por raio-x, sem detecção, né?
14:42Então, foi um tema debatido à época.
14:44Eu acho que passa muito por isso, né?
14:45Eu acho que seria muito importante ter essa coalizão
14:49não só das empresas de tecnologia,
14:51mas das esferas, especialmente governamentais
14:55que estão acima disso, né?
14:56E teria que ser um esforço internacional
14:58porque senão você começa a ter distorções importantes
15:00entre territórios, né?
15:01Do tipo, no país A isso pode, no país B não pode.
15:05E aí você pode ter alguns territórios
15:07que são mais permissivos, são mais lenientes
15:09e aonde esse tipo de má intencionalidade
15:14pode se concentrar, né?
15:15Como, mais uma vez, já vimos com outras tecnologias.
15:19Tá certo.
15:20Tá aí, Arthur Igreja, mais uma vez,
15:22participando aqui com a gente.
15:23Arthur, muitíssimo obrigada
15:25por participar conosco mais uma vez.
15:27Nos encontraremos em outras situações.
15:29Um excelente fim de semana pra você.
15:32Obrigado igualmente.
15:33A todos que nos acompanham, pra você também, Marisa.
15:35Até.
15:36Tá aí, Arthur Igreja, que é especialista
15:38em tecnologia e inovação, mais uma vez
15:40aqui participando com a gente
15:41do Olhar Digital News,
15:43nesse momento de tanta discussão
15:45sobre os perigos da IA.
Comentários