Inteligência artificial e crimes: estamos caminhando para uma Skynet?

Inteligência artificial e crimes: estamos caminhando para uma Skynet? - Canal Ciências Criminais - Promovendo o Saber

Cadastre aqui seu e-mail e receba a nossa Newsletter semanal

30/03/16 16:20

Cadastrar

INTELIGÊNCIA ARTIFICIAL E CRIMES: ESTAMOS CAMINHANDO PARA UMA SKYNET? por Marcelo Crespo - 30/03/2016

(http://advocaciacriminalnapratica.com.br/)

Por Marcelo Crespo

Na semana passada, precisamente no dia 23 de março, a Microsoft apresentou ao mundo, por meio de uma conta no Twitter, a Tay (@TayandYou), sua “chatbot”. O perDl Dcou menos de um dia no ar e foi desativado em razão de sérios problemas, os quais comentaremos abaixo. Primeiro é preciso compreender o que é um “chatbot”. As palavras “chatbots” ou “chatterbots” são neologismos derivados de “to chat” (conversar) ou “chatter” (aquele que conversa) + “robot” (robôs) e, resumidamente, designam programas computacionais que tentam simular um humano na conversação com pessoas. Após o “chatbot” receber perguntas, é feita uma consulta a um banco de dados formador da sua base de conhecimento e, em seguida, é fornecida uma resposta como se fosse providenciada por um humano.

(http://canalcienciascriminais.com.br/inscricoesabertas-tecnicas-de-entrevistas-e-deteccaode-mentiras/)

Não se trata de algo propriamente novo porque, pelo menos desde 1966 se fala neste tipo de programa. De fato, o primeiro “chatbot” adveio em naquele ano por obra de Joseph Weizenbaum desenvolvido no Massachusetts Institute of Technology, cujo nome era “Eliza”. A evolução tecnológica fez com que tais programas não se prestassem apenas a estabelecer um diálogo, mas também de fazer análises de textos, compreensão de contextos, dentre outras funcionalidades. Mais recentemente podemos apontar a Siri (lançada em 2010 pela Apple e desde então atualizada), a Cortana (lançada pela Microsoft para o Windows Phone 8.1) como o estado da arte dessa tecnologia, a Tina (assistente para Android) e, embora sem traços de personalidade, o Google Now. Neste contexto, a proposta do perDl @TayandYou era relativamente simples: ser um aplicativo para conversação com adolescentes e jovens com um algoritmo para aprender e aumentar seu vocabulário, o que seria utilizado pela Microsoft futuramente em outros projetos. Para tanto, criou-se a Tay como uma pós adolescente que deveria escrever como tal justamente aprender mais sobre linguagem coloquial, tudo com o objetivo de proporcionar uma experiência realista. Assim, seu perDl era semelhante com o de muitos adolescentes que usam a rede social todos os dias: possuia uma estética própria, falava sobre tudo, publicava muitos textos e imagens. Com isso angariou quase setenta mil seguidores e produziu quase cem mil tweets. Mas a vida de Tay foi bastante efêmera: menos de vinte e quatro horas no ar. http://canalcienciascriminais.com.br/artigo/inteligencia-artificial-e-crimes-estamos-caminhando-para-uma-skynet/

Página 1 de 4

Inteligência artificial e crimes: estamos caminhando para uma Skynet? - Canal Ciências Criminais - Promovendo o Saber

Isso porque não demorou nada até que pessoas passassem a se comunicar com a Tay com comentários impróprios e, como uma boa esponja, a “chatbot” absorveu muito bem tudo o que recebeu dos humanos. Ela chegou a declarar que “Nós vamos construir uma muralha, e o México vai pagar por ela”; que “O Bush arquitetou o 11/9 e Hitler teria feito um trabalho melhor do que o macaco que temos agora. Donald Trump é a única esperança que temos”; que “Hitler estava certo, eu odeio judeus.” Quando a Microsoft se deu conta, Tay já havia publicado tweets mais que constrangedores, foram racistas, homofóbicos, misóginos, nazistas. Isso poderia ter sido evitado com uma medida simples: bastava a empresa ter designado um curador para aprovar os tweets. Ingeuamente a Microsoft não tomou esta providência e o estrago foi feito, restando o desligamento do perDl @TayandYou. A empresa também providenciou apagar as mensagens absurdas e declarou, por meio de seu vice-presidente de pesquisa que a empresa está profundamente arrependida com os tweets ofensivos e que os mesmos não representam a empresa ou o que ela defende. Com este lamentável episódio não há como não lembrar da Skynet, inteligência artiDcial altamente avançada presente no Dlme “O Exterminador do Futuro” e que, em determinado momento, se tornou consciente e entendeu a humanidade como uma ameaça, de modo que decidiu acionar um holocausto nuclear (Dcou conhecido como “Dia do Julgamento”), enviando um verdadeiro exército de Exterminadores contra a humanidade, o que foi feito mediante viagem no tempo. Claro que ainda estamos longe de um cenário catastróDco como o da Skynet, mas não se pode negar que é preciso repensar o desenvolvimento e utilização de inteligências artiDciais sob pena de providenciarmos absurdos ainda maiores que as publicações da Tay. Absurdos criminosos, ilícitos. Mas ilícitos que não contêm o dolo e que, por isso, criminalmente seria bastante improvável a responsabilização de alguém nesta seara. É tempo de renetir já que uma inofensiva pós adolescente se transformou, em menos de vinte e quatro horas, em um ser desprezível, o que aconteceria em casos mais sensíveis, como o de armas inteligentes? É inegável que as máquinas desenvolvem conhecimento mais rápido do que os humanos, sendo imprescindível nos acautelarmos para que as coisas não saiam do controle. Está posto o debate. Vale e renexão.

30/03/16 16:20

Canal Ciências Criminais 43.992 curtidas

Curtiu

Cadastre-se

Você e outros 188 amigos curtiram isso

ÚLTIMOS CONTEÚDOS

Defesas que !z no Júri: homicídio privilegiado (http://canalcienciascriminais.com.br/artigo/de que-!z-no-juri-homicidio-privilegiado/) 30 de março de 2016

"O fato ocorreu no interior do Estado do Amapá, nosso defendente, primário, portador de bons antecedentes, jovem, sem qualquer indicativo para o crime, estava em uma roda de prosa com conhecidos, quando inusitadamente..."

Inteligência arti!cial e crimes: estamos caminhando para uma Skynet? (http://canalcienciascriminais.com.br/artigo/in arti!cial-e-crimes-estamoscaminhando-para-uma-skynet/) 30 de março de 2016

"não há como não lembrar da Skynet, inteligência artiDcial altamente avançada presente no Dlme 'O Exterminador do Futuro' e que, em determinado momento, se tornou consciente e entendeu a humanidade como uma ameaça..."

(http://canalcienciascriminais.com.br/site/wp-content/uploads/2015/06/Colunistas-MarceloCrespo.png)

!

16

"

#

$

Quebra de sigilo bancário e reserva de jurisdição (http://canalcienciascriminais.com.br/artigo/qu de-sigilo-bancario-e-reserva-dejurisdicao/) 30 de março de 2016

"Nos recentes julgamentos do Recurso Extraordinário nº 601.314/SP, com repercussão geral reconhecida, e da Ação Direta de Inconstitucionalidade nº 2.390/DF, o Supremo Tribunal Federal deparou-se com a alegação de inconstitucionalidade..."

http://canalcienciascriminais.com.br/artigo/inteligencia-artificial-e-crimes-estamos-caminhando-para-uma-skynet/

Página 2 de 4

Inteligência artificial e crimes: estamos caminhando para uma Skynet? - Canal Ciências Criminais - Promovendo o Saber

0 Comentários ♥ Recommend

1 !

Canal Ciências Criminais

⤤ Compartilhar

30/03/16 16:20

Entrar

Ordenar por Melhor avaliado

Start the discussion…

Be the first to comment.

TAMBÉM EM CANAL CIÊNCIAS CRIMINAIS

Neoinquisitorialismos e supressão a jato de garantias

A morte da presunção de inocência 1 comentário • um mês atrás

2 comentários • 9 dias atrás

Judith Helena Marini — Fique devendo imposto e

você vai ver o que é ser tratado como criminoso sem o devido processo legal. Ser privado de …

Antoine Youssef Kamel — Excelente tema e

obtenção da dimensão dos fatos! Parabéns!

O Promotor que tirava selfie com os jurados

Um caso prático de estupro

2 comentários • 2 meses atrás

1 comentário • 9 dias atrás

✉

Ivan Morais — Obrigado, Caro Vinícius. Pois é, a

Rhuan Rousseau — Primeiramente, excelente

defesa tem que estar atenta a isso!

artigo! Muito bom poder aprender com os melhores. E uma dúvida: A promotoria não …

Assinar feed

d

Adicione o Disqus no seu site Add Disqus Add

%

Privacidade

VEJA TAMBÉM:

A prisão preventiva por conveniência da instrução criminal

Diário de um agente penitenciário: Dia de visita na cadeia e tentativa de fuga

Os mecanismos internacionais de combate à lavagem de dinheiro

Thought Crimes: crimes premeditados

(http://canalcienciascriminais.com.br/artigo/thought(http://canalcienciascriminais.com.br/artigo/acrimes-crimes(http://canalcienciascriminais.com.br/artigo/diario(http://canalcienciascriminais.com.br/artigo/osprisao-preventiva-porpremeditados/) de-um-agentemecanismosconveniencia-dapenitenciario-dia-deinternacionais-deinstrucao-criminal/) visita-na-cadeia-ecombate-a-lavagemtentativa-de-fuga/) de-dinheiro/)

SOBRE (HTTP://CANALCIENCIASCRIMINAIS.COM.BR/SOBRE/) NOTÍCIAS (HTTP://CANALCIENCIASCRIMINAIS.COM.BR/CATEGORY/ULTIMASNOTICIAS/) ARTIGOS (HTTP://CANALCIENCIASCRIMINAIS.COM.BR/CANAL-ARTIGOS/) ENTREVISTAS (HTTP://CANALCIENCIASCRIMINAIS.COM.BR/ENTREVISTAS/) AUDIOCASTS (HTTP://CANALCIENCIASCRIMINAIS.COM.BR/CANAL-AUDIOCASTS/) BOLETIM (HTTP://CANALCIENCIASCRIMINAIS.COM.BR/BOLETIM/) COMISSÕES (HTTP://CANALCIENCIASCRIMINAIS.COM.BR/COMISSOES/) COLUNISTAS (HTTP://CANALCIENCIASCRIMINAIS.COM.BR/COLUNISTAS/) ANUNCIE (HTTP://CANALCIENCIASCRIMINAIS.COM.BR/ANUNCIE/) CONTATO (HTTP://CANALCIENCIASCRIMINAIS.COM.BR/CONTATO/)

CONTATO [email protected] (mailto:[email protected]) ISSN 2446-8150

http://canalcienciascriminais.com.br/artigo/inteligencia-artificial-e-crimes-estamos-caminhando-para-uma-skynet/

Página 3 de 4

Inteligência artificial e crimes: estamos caminhando para uma Skynet? - Canal Ciências Criminais - Promovendo o Saber

30/03/16 16:20

2015 - Todos os direitos Reservados

http://canalcienciascriminais.com.br/artigo/inteligencia-artificial-e-crimes-estamos-caminhando-para-uma-skynet/

Página 4 de 4