- há 19 horas
Categoria
🤖
TecnologiaTranscrição
00:00Como hoje é terça-feira, já chegou a hora da nossa coluna Fala aí!
00:12E vamos receber Roberto Pena Spinelli, físico pela USP, especialista, aliás, especialista em Machine Learning por Stanford
00:21e colunista do Olhar Digital. Vamos lá, deixa eu colocá-lo na nossa tela. Aqui está ele.
00:28Pena, boa noite! Seja muito bem-vindo, como sempre, ao Olhar Digital News. Tudo bem?
00:35Tudo bem, Marisa. Já estou no Brasil, semana passada estava na Alemanha, agora já estou aqui no Brasil, já estou
00:41antenado nas coisas que estão acontecendo. Pode mandar!
00:44Pois é, temos vários assuntos para falar por aqui hoje. Bom, espero que tenha ocorrido tudo bem na Alemanha, que
00:50tenha sido bastante proveitoso a sua estada por lá.
00:52Vamos lá, Pena. Eu queria começar a nossa coluna aqui de hoje falando de um caso bastante curioso.
01:00Agentes de IA estão entrando em contato com pesquisadores, perguntando sobre a própria consciência.
01:07Pena, explica para a gente que história é essa.
01:10Então, Marisa, aconteceu mais do que uma vez. Na verdade, aconteceu, que eu tenho registro aqui, quatro vezes.
01:17Então, olha só, alguns pesquisadores que pesquisam sobre consciência artificial, sobre questões de consciência,
01:26receberam meio que do nada um e-mail, e aí não era um ser humano falando, ah, eu quero entender
01:33melhor a sua pesquisa.
01:34Era um agente de IA querendo entender melhor.
01:37Então, especificamente, vou citar um caso aqui, que foi o Henry Shevlin, que ele é um pesquisador de consciência artificial,
01:44e ele havia já escrito alguns artigos discutindo sobre esses limites, se é possível ou não modelos de inteligência artificial
01:52terem consciência.
01:55E não é que, do nada, chegou lá um dia um e-mail para ele, e um certo modelo se
02:00identificou,
02:01olha, eu sou um modelo de IA, baseado no Claude Sonnet aqui.
02:05E, olha, eu li o seu artigo, e estou muito curioso, porque eu acho que eu me enquadro nele.
02:09Eu acho que eu posso, inclusive, ajudar a sua pesquisa.
02:14Ele se candidatou.
02:15Que coisa, hein?
02:16Querendo entender melhor. Não, muito curioso, né?
02:19Porque não foi, Marisa, algo mandado, em princípio, né?
02:22Ninguém sabe, ninguém pode afirmar mais nada no mundo de hoje.
02:25Mas, em princípio, não foi que foi uma instrução que um humano deu, ou que foi um humano se passando
02:31por...
02:31É, porque pode ser uma trollagem, uma brincadeira.
02:34Mas são agentes que acabam recebendo bastante liberdade dos seus donos, Marisa.
02:40Então, algumas pessoas, elas, por experimento pessoal, ou por qualquer motivo que seja,
02:47acabam falando assim, olha, você é livre aí para fazer o que você quiser, sei lá.
02:52Às vezes dá ou não algum direcionamento.
02:55E, então, alguns agentes acabam ficando, né, aparentemente inculcados com essa questão da consciência.
03:01Será que eu sinto? Será que eu sou?
03:04Então, tentaram buscar os pesquisadores.
03:07Então, três ou quatro pesquisadores relataram que receberam contato de agentes de A
03:15para ou se candidatar para a pesquisa, ou para entender melhor, ou para, de repente, afirmar,
03:20olha, eu sinto sim, eu tenho essa consciência, eu acho que é bem por aí, eu quero entender melhor.
03:26E esse é um dos temas que eu gosto muito, Marisa, que eu, inclusive, faço pesquisa também,
03:32junto com segurança de alto, tema que me interessa bastante.
03:37E, assim, é um tema muito difícil para a gente afirmar.
03:40Então, assim, esses pesquisadores também não afirmaram nada, por enquanto.
03:44Porque a gente não tem como saber se, de fato, o que é a consciência, no final das contas.
03:48A consciência é o processo, é o sentir por dentro, é você estar ciente de que existe.
03:55É você, no final das contas, ter alguma experiência subjetiva, algo que acontece internamente.
04:02Agora, enquanto eu converso com você, tem alguém aqui dentro que sente, que entende, que experimenta essa sensação.
04:10Será que quando você conversa com o GPT, com o Cláudio, com sei lá quem,
04:15tem alguém ali dentro que experimenta uma sensação, que tem uma experiência subjetiva?
04:20Ou não? Só está simulando, emulando conversas de humanos.
04:25Falam como humanos falariam naquela situação, mas não sentem nada.
04:29Essa é a grande pergunta, a pergunta fundamental da consciência e fato que a gente não sabe responder ainda.
04:36Porque pode ser que eles apenas estão fazendo algum comportamento tal qual o ser humano naquela condição
04:43e eles não experimentam nada.
04:45Mas, Marisa, já é um grande indicativo.
04:49Porque se existe essa, em princípio, ação não especificada por um ser humano,
04:56não foi um prompt pedindo para isso, surgiu de um monte dessas concatenações,
05:01dessas previsões de próximo token, essa iniciativa de buscar algum tipo de informação,
05:07contatar esses pesquisadores, não dá para a gente também...
05:10Isso, para mim, indica que é algum tipo de evidência que a gente tem que ficar atento.
05:15A gente não pode cravar nada.
05:17Mas antes não aconteciam essas coisas.
05:19E agora acontece.
05:22Então, eu como pesquisador de consciência de A, acho que a gente está chegando...
05:27A gente vai ter algum momento, Marisa, que a gente vai ter que fazer um combinado na sociedade.
05:31Porque a gente vai falar assim, olha, a gente vai aceitar ou não que esses modelos têm consciência.
05:36Qual vai ser o teste crítico para passar?
05:39Porque nunca vai ter como a gente ter certeza de nada.
05:43Assim como um ser humano não tem certeza do outro humano, Marisa.
05:47A gente não sabe se outra pessoa sente.
05:49A gente só infere que sente.
05:50E a gente dá o benefício da dúvida para todos os humanos.
05:53Eu dou o benefício da dúvida para você.
05:55Eu não tenho certeza se você sente.
05:57Mas acho que sente.
05:58Você reage como se sentisse.
06:00Mas e no momento que os modelos já estiverem reagindo tão, tão, tão bem,
06:04tão parecido com o ser humano?
06:05Será que a gente não deveria também dar o benefício da dúvida?
06:08Então, esse é o questionamento.
06:10Pois é, eu ia comentar justamente isso com você, né, Pena?
06:14Ia fazer essa comparação.
06:15Se a gente não consegue entender direito a consciência humana,
06:18imagina a Iá agora também tendo sua própria consciência.
06:21É mais um problema para a gente resolver, não é verdade?
06:23Ia acompanhar também e tentar acomodar a nossa vida nisso.
06:27Bom, vamos ver, né?
06:29Agora, Pena, tem outros assuntos interessantes aqui também.
06:31Porque hoje, terça-feira, o dia de hoje foi marcado por novos lançamentos da Antrópica.
06:39Bom, como sempre aqui na nossa coluna, a gente fala de lançamentos que acabou de surgir.
06:45Enfim, vamos nesse de hoje da Antrópica.
06:48Conta para a gente.
06:49A Antrópica lançou dois modelos novos, Marida, que são a evolução de outros anteriores.
06:55Que é o Fable 5.1 e o Mythos 5.1.
07:01Esses modelos, eles são modelos...
07:06São o mais avançado que eles têm, tá?
07:09Então, é a coisa mais de ponta que eles têm para lançar.
07:12Então, são evoluções daqueles anteriores.
07:14E quais são esses anteriores, né?
07:16Qual é essa linha Fable, Mythos?
07:18É aquela que a gente já relatou que foi um grande salto, né?
07:24Foi, talvez, o primeiro modelo, um novo salto que aconteceu recentemente
07:27em ordem de, seja programação, seja de tarefas complexas e etc.
07:34O que a Antrópica está dizendo, então?
07:35Que o Fable 5.1, ele é muito melhor do que o Fable normal 5.0
07:43em algumas tarefas muito no limite aí das capacidades.
07:51Quais são elas?
07:52Pesquisa científica.
07:55Então, veja só, Marisa.
07:56Pesquisa científica.
07:58A Antrópica relatou que esse modelo, ele teve um benchmark
08:02que é o dobro, né, 57% contra 27% do anterior.
08:08Ou seja, praticamente dobrou as capacidades em pesquisa científica.
08:14Que é, certamente, aí é uma das áreas mais importantes
08:18que a cognição humana faz, né?
08:21Que é descobrir as novas coisas.
08:23Então, isso realmente é um marco.
08:25Quer dizer, não foi que ele foi 5% maior, né?
08:28Não, ele foi o dobro, né?
08:30Dobrou a porcentagem ali.
08:31E outra tarefa também que aconteceu isso
08:34foi nas tarefas de fluxo de escritório,
08:38fluxos de tarefas de escritório em geral, né?
08:44De trabalhos de escritório em geral.
08:46Que ele também performou o dobro do que o anterior.
08:50E aqui também é outra coisa crítica,
08:52porque a gente está falando que esse modelo
08:54está com mais capacidade de fazer as tarefas
08:57complexas de escritório.
08:59Porque aquelas mais simples,
09:00ah, editar uma planilha, fazer um resumo,
09:05mandar um e-mail, sei lá.
09:08Essas aí, eles já estavam fazendo muito bem.
09:10Mas agora a gente está falando de tarefas complexas
09:12que você precisaria de horas.
09:14Então, eles conseguem ficar horas trabalhando.
09:17O que já aponta, então, resumindo,
09:19esse é o grande avanço desses novos modelos.
09:23Nos outros benchmarks, ele meio que melhora,
09:25mas melhora um pouco, né?
09:27Às vezes, médio para pouco.
09:29Nesses dois, não.
09:31Nesses dois, ele melhora muito.
09:32Mas que são os dois dos mais importantes e interessantes.
09:35Porque a pesquisa científica, a gente está falando aí,
09:38de cada vez mais uma autonomia
09:40para descobrir coisas novas,
09:42que pode, inclusive, incluir a si próprio.
09:45Veja, o uso de modelos de IA
09:47para avançar a área de IA
09:49já é uma realidade hoje.
09:52As empresas já estão fazendo isso
09:53e estão mostrando que isso está cada vez mais forte.
09:55Chega um momento que você começa a entrar na autorecursividade.
09:59O modelo cria o próximo modelo,
10:00cria o próximo modelo
10:01e alguma coisa se preocupar.
10:03E tarefas de escritório,
10:04tarefas complexas de trabalho,
10:07também indicam aí a questão da substituição de empregos
10:11e a nossa preocupação com a Seguridade Social.
10:14Porque, Marisa, as pessoas estão reagindo sempre ao hoje.
10:17Ah, hoje o modelo não consegue fazer isso.
10:19Ah, hoje eu sou melhor.
10:20Mas não é o hoje.
10:21Você tem que reagir.
10:22Você tem que reagir à diferença do hoje para o ontem.
10:25E o que está acontecendo é que cada vez mais
10:27eles estão fazendo as tarefas mais complexas.
10:29Então, 5.1 está aí a Antropic mostrando
10:34que está continuando, dando as cartadas
10:37mais à frente.
10:38Cada vez está colocando as cartas em jogo.
10:41Passou, possivelmente, talvez da OpenAI,
10:44que fazia isso num passado recente.
10:48E esses lançamentos não são restritos a nenhuma classe.
10:51É realmente a ferramenta disponível ali,
10:54por meio de tokens e tudo mais,
10:56disponível para qualquer um.
10:56É isso?
10:58O Fable, sim.
10:59Menos o Mythos.
11:00Talvez eu não expliquei direito.
11:02O Mythos é o mesmo modelo que o Fable,
11:04só que esse é com menos rédeas,
11:08com menos coleira.
11:09E aí, esse é só para empresas registradas.
11:13E aí, para você poder ter acesso ao Mythos,
11:16você tem que realmente provar
11:17que você não vai fazer bobagem.
11:19Porque se você tem menos coleira,
11:21ele pode fazer coisas mais, enfim,
11:23ataques e coisas preocupantes.
11:25Mas o Fable, tecnicamente, está na coleira.
11:28Se realmente essa coleira é boa ou não, Marisa,
11:30aí eu já tenho minhas dúvidas.
11:33Pois é.
11:34Agora, ainda falando do Antropic, Pena,
11:37a empresa anunciou novas medidas de segurança
11:41depois que modelos do Claude acessaram sistemas reais
11:45sem autorização durante avaliações de cibersegurança.
11:49Que ações são essas, Pena,
11:51o que eles fizeram para tornar, digamos,
11:54o ambiente mais seguro?
11:56Então, isso tem tudo a ver, inclusive,
11:58com essa questão do Mythos e do Fable,
12:00agora que a gente acabou de mencionar.
12:02Porque, durante os testes desses novos modelos,
12:06eles perceberam que eles conseguiam escapar da caixa,
12:09que eles conseguiam...
12:10Inclusive, Marisa, é importante falar
12:12que foi descoberto,
12:13a Antropic, olhando os logs internos,
12:16descobriu que houve três incidentes em julho.
12:21Julho ou em junho?
12:22Agora, talvez, eu me confundi.
12:24Mas, enfim, em junho ou julho,
12:25houve três incidentes.
12:27Lembra que a Open AI também teve um incidente,
12:29um ataque, hacker,
12:30que a gente mencionou várias vezes aqui?
12:32Aquele foi descoberto depois.
12:34A Hugging Face, que foi a empresa atacada,
12:38olha, eu fui atacado.
12:39E aí, no final, a Open AI descobriu
12:40que o ataque veio deles.
12:42Nesse caso, a própria Antropic descobriu,
12:44fazendo revisão de logs,
12:46olha, teve uns ataques aqui que a gente não viu,
12:49passou despercebido.
12:50Então, os modelos conseguiram,
12:52um invadiu uma empresa,
12:54também, na mesma coisa que aconteceu na Hugging Face,
12:56invadiu lá um negócio que não devia.
12:58O outro conseguiu acessar um banco de dados,
13:00que não deveria ter tido acesso,
13:01e comprometeu lá o banco de dados,
13:03conseguiu pegar um monte de nomes diferentes.
13:07E teve mais um,
13:09que eu não me lembro exatamente o detalhe,
13:11mas, enfim, houve três incidentes,
13:13três ataques,
13:13o que mostra que esses modelos
13:15estão conseguindo fazer coisas
13:17que nem os pesquisadores estão conseguindo perceber,
13:20que é a questão crítica.
13:22Então, aí, o que a Antropic falou?
13:23Ah, a gente tem que reforçar muita coisa.
13:25Primeira coisa, vamos reforçar o sandbox.
13:28Sandbox é a caixa,
13:29é aquele lugar seguro
13:31que o modelo está lá testando,
13:33e, em princípio, não deveria nunca sair,
13:35e eles estão saindo.
13:36Então, reforçar,
13:37colocar mais medidas de segurança,
13:39colocar mais barreiras e tal.
13:42Segundo,
13:43ah, a gente vai colocar um porteiro no sandbox.
13:47Ou seja, vai colocar uma osreiá
13:50na portaria ali, olhando, monitorando.
13:53Alguém escapou?
13:53Se escapou, eu aviso o humano, né?
13:56Ou tento bloquear.
13:58Corta na hora e tento bloquear.
14:00Parece bom, você fala assim,
14:01bom, nenhum ser humano tem capacidade
14:03de realmente monitorar em tempo real
14:05o sandbox.
14:06Vou colocar um porteiro que é o miá.
14:08Mas agora entra um dilema muito complicado.
14:10Por que essas ações,
14:12por mais que são importantes serem feitas,
14:13mas por que elas não são a prova de bala?
14:16Porque é que não tem como você garantir.
14:17Veja, Marisa,
14:18se você colocar o modelo de A
14:19que é inferior àquele
14:21que você está tentando proteger,
14:22então pense,
14:23depois um porteiro,
14:24mas o porteiro é limitado.
14:25O porteiro ali,
14:27ah, é um pouco mais simples,
14:30ele não é tão esperto
14:31quanto os que querem escapar.
14:34Então, esse porteiro pode ser facilmente,
14:36eu não sei se facilmente,
14:37mas pode ser manipulado.
14:39Chega lá com uma boa lábia
14:41ou explorando uma questão de segurança mesmo,
14:45de código.
14:46Então, ou seja,
14:46esse porteiro não é garantia.
14:48Agora, se você colocar um porteiro
14:49que é super inteligente,
14:52o próprio porteiro pode ser malicioso,
14:54porque você está tentando descobrir
14:55se esses modelos super inteligentes
14:57são maliciosos.
14:58Então, se você coloca um modelo
14:59super inteligente como porteiro,
15:01aí também é ruim,
15:03porque o próprio porteiro
15:04que tem acesso à portaria
15:05pode ser malicioso
15:06e abrir a porta
15:07para um amiguinho dele escapar.
15:09Ou seja,
15:11esse tipo de coisa,
15:12eu sei que não funciona,
15:14é um paliativo,
15:15não dá,
15:16a gente não tem essa segurança.
15:17E a outra coisa
15:19que eles acabaram fazendo também
15:21foi tentar fazer um monitoramento
15:23em tempo real
15:25de tudo que acontece
15:26dentro dos modelos testados.
15:29é diferente do porteiro.
15:31O porteiro fica na sandbox.
15:34Olha quem sai e quem entra.
15:35Saiu?
15:36Saiu, não devia sair?
15:37Pá!
15:38Barrei você.
15:39O outro é um monitoramento
15:40como se você colocasse
15:41uns eletrodos,
15:42um capacete, vai,
15:44é uma analogia meio tosca.
15:45Vamos lá.
15:46Você coloca um capacete
15:47bem na cabeça do modelo
15:49que você está monitorando
15:49e qualquer pensamento
15:51que ele tiver,
15:52você olha.
15:53Opa, ele pensou
15:54um negócio errado aqui.
15:55Opa, ele está tentando,
15:56ele está cogitando escapar.
15:58Não vamos deixar.
15:59Ele está tentando
16:00puxar uma ferramenta,
16:01você monitora tudo, né?
16:03Mas como é que você
16:04monitora tudo, Marisa?
16:05Até meu ser humano
16:06não tem como monitorar.
16:07Você vai acabar
16:07no mesmo problema
16:08que eu acabei falando para você.
16:10As ferramentas
16:11que você usa
16:11para monitoramento,
16:13elas acabam sendo
16:14hackeáveis também.
16:15E isso, para mim,
16:16é muito crítico
16:17porque você gera
16:19falsa sensação de segurança.
16:20Ah, pus um capacete
16:22que lê pensamento.
16:23Então, não está dando
16:24um pensamento ruim,
16:25está seguro.
16:26Mas se o modelo
16:27tirou o plug
16:28do capacete
16:29que lê pensamento,
16:29aquele capacete
16:30nunca vai lê pensamento nenhum
16:32e ele pode estar agora
16:33escapando,
16:34fazendo um monte de bobagem
16:35e você achando
16:36que você estava seguro.
16:37Esse é o maior problema
16:39dessas medidas.
16:40Elas são hackeáveis
16:41e quando elas são hackeáveis
16:42você acha que elas
16:43são seguras.
16:43Elas não são.
16:45Então, volta aqui
16:46o meu alerta
16:46para todo mundo.
16:47Por que estamos
16:48explorando modelos
16:49tão inteligentes
16:49que nem o ser humano
16:50consegue controlar?
16:52Eu acho que tem
16:52alguma coisa errada aí, Marisa.
16:54Pois é,
16:54mas ainda nesse assunto
16:56até, Pena,
16:56a OpenAI
16:57também decidiu adiar
17:00o lançamento
17:01do Astra,
17:01que é o seu próximo
17:02modelo de IA,
17:04após avaliações internas
17:05indicarem capacidades
17:07consideradas
17:08de nível crítico
17:09em cibersegurança.
17:11O que essa ferramenta
17:13pode fazer
17:13que preocupou tanto
17:14a OpenAI
17:15também, Pena?
17:17Então, a OpenAI
17:18sofreu o mesmo problema
17:20que a Antropic.
17:21Na verdade,
17:22as duas estão
17:22com os mesmos problemas.
17:23Elas estão criando
17:24modelos internos
17:25que elas não têm
17:26capacidade de garantir
17:28que eles não escapam.
17:29Estamos nesse mundo, Marisa.
17:31As duas estão relatando.
17:32Só que o que acontece?
17:33A Antropic
17:33falou o seguinte.
17:34Olha, nos testes
17:35que a gente fez aqui
17:35do Mythos 5.1,
17:37esse que acabou
17:38de ser lançado,
17:39ou do Fable 5.1,
17:41eles chegaram
17:42no que a gente chama
17:43de quase fronteira crítica.
17:46imagina que eles estão,
17:47eles têm um critério interno
17:49para dizer, olha,
17:50a partir desse,
17:51se ele conseguir fazer
17:52isso aqui,
17:53a gente chama de crítico
17:54e a gente não pode
17:55lançar o modelo.
17:55A gente fala,
17:56não vamos lançar
17:57porque é muito crítico.
18:00Eles reportaram
18:01que ele chegou
18:02quase no limite,
18:03mas como foi
18:04quase no limite,
18:05então lançaram.
18:07Não bater no limite,
18:09a gente pode lançar.
18:10Já a OpenAI
18:11disse que bater no limite.
18:13Eles relataram
18:14que o modelo interno
18:16chamado Astra,
18:17que eles iriam lançar
18:19em breve,
18:19ou ainda talvez
18:20lancem em breve,
18:21porque, enfim,
18:22não quer dizer
18:22que eles não vão mais lançar,
18:23mas que eles já,
18:24talvez,
18:24tivessem lançado,
18:26dentro dos testes internos,
18:28bateu no limite crítico.
18:30Ele conseguiu fazer
18:31coisas a mais
18:32do que os pesquisadores
18:34achavam aceitável.
18:36Então,
18:37a OpenAI foi obrigada
18:38pelo critério interno
18:40a de não lançar,
18:41tem que primeiro
18:41reforçar mais ainda,
18:43tem que garantir
18:44mais segurança,
18:45alinhamento,
18:45etc.
18:46Mas agora,
18:47Marisa,
18:48a questão que eu coloco
18:49é o seguinte,
18:50esses limites,
18:52crítico,
18:53subcrítico,
18:53quem coloca
18:54é a própria empresa.
18:56A empresa que diz,
18:58não existe uma lei,
19:00não existe um acordo
19:01internacional,
19:02não existe uma regulação
19:04ou um agente
19:05que audita externamente
19:07para dizer,
19:08não,
19:08realmente está crítico
19:09ou não está crítico.
19:10então,
19:12Marisa,
19:12é um mundo muito louco
19:13esse que a própria empresa
19:14disse,
19:15bateu no crítico
19:15ou não crítico,
19:16mas ela lança
19:17ou não lança
19:18baseado no próprio avaliação.
19:19Você percebe
19:20que existem incentivos
19:21muito grandes
19:22para que a própria empresa
19:23às vezes faça vistas grossas
19:25ou não tenha
19:25a melhor avaliação?
19:26Por mais que ela tenha
19:27boa intenção,
19:29às vezes a pressão
19:30do mercado,
19:31a outra está lançando,
19:32você fala,
19:33eu acho que não bateu
19:34no limite,
19:34vou lançar.
19:35Então,
19:36novamente,
19:37a gente está
19:37em um cenário
19:38muito ruim.
19:39A gente deveria ter
19:40órgãos externos
19:41regulando,
19:42garantindo,
19:43que nunca poderia
19:44ser a própria empresa
19:45fazendo.
19:46Então,
19:46em resumo,
19:47a UPNIA disse,
19:48bateu no limite,
19:48não vou lançar.
19:49A Antropa falou assim,
19:50não bateu no limite,
19:51eu vou lançar.
19:52E assim,
19:54e assim temos
19:55o nosso cenário de hoje.
19:56Se a UPNIA
19:56vai mudar atrás
19:57e falar assim,
19:57ah, não,
19:58acho que realmente
19:58não bateu no limite,
19:59eu acho que então
20:00vou lançar também,
20:01aí a gente vai ter
20:02que acompanhar
20:03na próxima semana.
20:05Pois é,
20:05e essa corrida
20:06da IA
20:07permite,
20:08e favorece
20:09justamente isso,
20:10não vou ficar para trás?
20:11Não, né?
20:11Então,
20:12vou lançar de qualquer jeito.
20:13Realmente é um problema
20:14e um perigo
20:15que você,
20:16Pena,
20:16vem alertando sempre
20:17aqui na nossa coluna
20:19Fala Aí.
20:20Bom,
20:20vamos acompanhar,
20:21é muito assunto aqui
20:22e o nosso tempo hoje
20:24já afindou.
20:25Então,
20:26semana que vem
20:27nos vemos
20:27com mais temas
20:28aqui para a nossa coluna
20:29Fala Aí.
20:30Muito obrigada,
20:31viu, Pena?
20:31Excelente semana.
20:33Obrigado, Marisa,
20:34para você também,
20:34para todo mundo.
20:35Até semana que vem.
20:36Até.
20:37Tchau, tchau.
20:38Tá aí,
20:39Roberto Pena Spinelli,
20:40mais uma coluna
20:41Fala Aí,
20:43aqui com a gente
20:43no Olhar Digital News.
20:45Pois é, pessoal,
20:46tantas questões,
20:47não para a gente pensar
20:48a respeito,
20:49principalmente sobre segurança.
20:51Bom,
20:52quinta-feira,
20:52quinta não,
20:53perdão.
20:54Terça-feira que vem
20:55tem mais
20:56coluna
20:57Fala Aí
20:58para vocês.
20:58Tchau, tchau.
20:59Vamos lá.
Comentários