Estupidez artificial
A inteligência artificial é criada por humanos. E tal como tudo o resto que nós fazemos, o risco de asneira é tremendo
Durante quase uma hora, um sistema de
inteligência artificial debateu esta segunda-feira com Harish Natarajan,
diretor de risco económico da AKE International. E não é de todo
líquido que tenha sido ele a vencer o debate, que se debruçou sobre os
méritos de subsidiar o pré-escolar. Esta demonstração pública do IBM
Debater antecipou o arranque do evento anual da tecnológica, IBM Think,
que começa hoje em São Francisco e onde a inteligência artificial será
inescapável.
As incríveis capacidades dos sistemas artificiais da IBM poderão ajudar a resolver problemas globais e a CEO da empresa, Ginni Rometty, tem uma visão aspiracional e positiva do trabalho que está a ser feito. Mas ali ao lado, em vários cantos de Silicon Valley, os alarmes já soaram várias vezes. Não é preciso abrir um livro de banda desenhada apocalíptica para ler sobre a ameaça perene dos robôs que um dia se vão virar contra os humanos. Os alertas vêm de todos os lados, alguns mais coloridos que outros, e colocam a Humanidade numa espécie de encruzilhada antes da evolução fatal.
As incríveis capacidades dos sistemas artificiais da IBM poderão ajudar a resolver problemas globais e a CEO da empresa, Ginni Rometty, tem uma visão aspiracional e positiva do trabalho que está a ser feito. Mas ali ao lado, em vários cantos de Silicon Valley, os alarmes já soaram várias vezes. Não é preciso abrir um livro de banda desenhada apocalíptica para ler sobre a ameaça perene dos robôs que um dia se vão virar contra os humanos. Os alertas vêm de todos os lados, alguns mais coloridos que outros, e colocam a Humanidade numa espécie de encruzilhada antes da evolução fatal.
Mesmo quem não acredita num futuro ao
estilo Skynet sabe que a inteligência e automatização vão “limpar”
milhões de postos de trabalho e levar a desequilíbrios sociais
repentinos, porque não estamos prontos para isto. Este fim-de-semana, o
presidente Donald Trump assinou uma ordem executiva para criar a
“American AI Initiative”, que vai direcionar as agências federais para o
uso de inteligência artificial e lançar iniciativas de formação para os
trabalhadores que irão perder os seus empregos devido à tecnologia. O
timing é crítico, pela velocidade com que a IA está a intrometer-se nas
nossas vidas.
Mas se faz mais sentido tentar preparar os trabalhadores para a revolução que aí vem do que gritar contra os futuros suseranos robóticos, existe uma parte importante deste processo que tem recebido menos atenção. A inteligência artificial é criada por humanos. E tal como tudo o resto que nós fazemos, o risco de asneira é tremendo.
A própria Google, que tem sido uma das campeãs da IA em Silicon Valley, admitiu pela calada que a inteligência artificial acarreta riscos. “Novos produtos e serviços, incluindo aqueles que incorporam ou utilizam inteligência artificial e aprendizagem de máquina, podem criar ou exacerbar desafios éticos, tecnológicos, legais e outros”, escreveu a Alphabet na adenda de fatores de risco incluída no relatório e contas entregue ao regulador na semana passada. A empresa admitiu que os riscos associados à IA poderão “afetar negativamente” as suas marcas e a procura pelos seus produtos e serviços e ter efeitos adversos nas receitas e resultados operacionais.
A questão ética é das mais importantes, mas não é a única. Existe o risco daquilo a que outros chamaram de “estupidez artificial”, que é o conjunto de erros, preconceitos e falta de ética que os humanos podem imprimir aos sistemas que estão a desenvolver.
Se a IA se vai tornar tão fundamental na vida quotidiana, é preciso garantir que a sua génese cumpre os mais elevados padrões de qualidade. Quem o determina? Pois, esse é o problema.
“Os algoritmos de IA podem ter defeitos. Os conjuntos de dados podem ser insuficientes ou conter informação preconceituosa”, admitiu a Microsoft num documento enviado ao regulador dos mercados no ano passado. “Práticas inapropriadas ou controversas da Microsoft ou outras poderão dificultar a aceitação de soluções IA. Estas deficiências podem minar as decisões, previsões ou análises que as aplicações IA produzem, sujeitando-nos a malefícios competitivos, responsabilidades legais ou problemas na reputação.” Linguagem mais clara era impossível.
As associações que estão a ser formadas aqui e ali para garantir um bom rumo na IA não são vinculativas nem têm poderes para lá dos seus circuitos. Empresas como a IBM, Google, Facebook e Microsoft têm tentado pôr estas questões a descoberto para tentar endereçá-las antes que se tornem ameaças.
São questões que devem ser incorporadas de raiz no pensamento estratégico de qualquer iniciativa de IA, a nível empresarial ou nacional. Portugal tem uma boa oportunidade de se posicionar na linha da frente. Desta vez, o diabo – ou a Skynet – não está apenas nos detalhes.
Mas se faz mais sentido tentar preparar os trabalhadores para a revolução que aí vem do que gritar contra os futuros suseranos robóticos, existe uma parte importante deste processo que tem recebido menos atenção. A inteligência artificial é criada por humanos. E tal como tudo o resto que nós fazemos, o risco de asneira é tremendo.
A própria Google, que tem sido uma das campeãs da IA em Silicon Valley, admitiu pela calada que a inteligência artificial acarreta riscos. “Novos produtos e serviços, incluindo aqueles que incorporam ou utilizam inteligência artificial e aprendizagem de máquina, podem criar ou exacerbar desafios éticos, tecnológicos, legais e outros”, escreveu a Alphabet na adenda de fatores de risco incluída no relatório e contas entregue ao regulador na semana passada. A empresa admitiu que os riscos associados à IA poderão “afetar negativamente” as suas marcas e a procura pelos seus produtos e serviços e ter efeitos adversos nas receitas e resultados operacionais.
A questão ética é das mais importantes, mas não é a única. Existe o risco daquilo a que outros chamaram de “estupidez artificial”, que é o conjunto de erros, preconceitos e falta de ética que os humanos podem imprimir aos sistemas que estão a desenvolver.
Se a IA se vai tornar tão fundamental na vida quotidiana, é preciso garantir que a sua génese cumpre os mais elevados padrões de qualidade. Quem o determina? Pois, esse é o problema.
“Os algoritmos de IA podem ter defeitos. Os conjuntos de dados podem ser insuficientes ou conter informação preconceituosa”, admitiu a Microsoft num documento enviado ao regulador dos mercados no ano passado. “Práticas inapropriadas ou controversas da Microsoft ou outras poderão dificultar a aceitação de soluções IA. Estas deficiências podem minar as decisões, previsões ou análises que as aplicações IA produzem, sujeitando-nos a malefícios competitivos, responsabilidades legais ou problemas na reputação.” Linguagem mais clara era impossível.
As associações que estão a ser formadas aqui e ali para garantir um bom rumo na IA não são vinculativas nem têm poderes para lá dos seus circuitos. Empresas como a IBM, Google, Facebook e Microsoft têm tentado pôr estas questões a descoberto para tentar endereçá-las antes que se tornem ameaças.
São questões que devem ser incorporadas de raiz no pensamento estratégico de qualquer iniciativa de IA, a nível empresarial ou nacional. Portugal tem uma boa oportunidade de se posicionar na linha da frente. Desta vez, o diabo – ou a Skynet – não está apenas nos detalhes.
IN "DINHEIRO VIVO"
12/02/19
.
Sem comentários:
Enviar um comentário