11/09/2019
LEANDRA DIAS
.
Também no que respeita à proteção de dados pessoais, estas tecnologias poderão ter um papel fundamental. Através da identificação/construção de padrões, a IA permitirá uma rápida identificação de novos dados pessoais registados nas organizações, assim como uma catalogação quase imediata e automática. O fator antecipação poderia ser materializado “ensinando” a máquina, por exemplo, a reconhecer e aplicar os prazos legais de manutenção/conservação dos diferentes dados pessoais.
Através da IA seria possível criar um sistema de apoio à decisão, como acontece aliás há vários anos noutras áreas. Deste tipo de iniciativas são exemplo o Expertius (sistema mexicano de apoio à tomada de decisão judicial no âmbito do Direito da Família) ou o Family Winner (sistema de apoio à decisão no âmbito da Direito da Família na Austrália). Este tipo de agentes inteligentes de software poderão ser uma mais-valia na verificação de falhas e na avaliação da conformidade no âmbito de auditorias internas, podendo também auxiliar as autoridades de controlo nas ações de inspeção às organizações.
Recentemente, por via do algoritmo Claudette, tivemos uma prova de conceito de que é possível usar, com bons resultados, a IA, através do Machine Learning, nestes domínios. Este algoritmo foi usado pela Organização Europeia de Consumidores para analisar as políticas de privacidade de 14 empresas de tecnologia. Com o objetivo de avaliar a conformidade com o RGPD, de políticas de privacidade de entidades como a Google ou o Facebook, entre outros, recorreu-se à IA para apoiar na deteção de falhas ou insuficiências de textos face a exigências legais, o que aconteceu.
Um documento deste tipo é longo e complexo, agora imagine como será multiplicado por 14 (!). Isso, implicaria vários dias de análise de um ser humano que, além do cansaço, teria dificuldade em garantir exatamente o mesmo nível de concentração durante essa análise. Através desta tecnologia, conseguiu-se otimizar a análise (efetuada em muito menos tempo do que seria se fosse efetuada por um humano), aplicando-se exatamente os mesmos critérios de análise a cada um dos textos, aumentando a justiça da análise em si e dos resultados obtidos.
A IA pode auxiliar em diferentes frentes. Poderá, por exemplo, ser usada no desenvolvimento de ferramentas de análise ao serviço das autoridades de controlo e, bem assim, das associações de defesa dos consumidores, permitindo detetar falhas e incoerências na atuação dos responsáveis pelo tratamento. Também os consumidores finais, os cidadãos comuns, terão a tarefa mais facilitada. Com recurso a uma app ou um sistema simples, por exemplo, não teriam de ler/analisar um texto longo de acordo com critérios de análise que podem não conhecer, e, de forma simples e rápida, conseguiriam perceber que categorias de dados estão a ser recolhidos/tratados, quais os fundamentos invocados, para que finalidades, período de manutenção desses dados e se os mesmos são ou não partilhados com terceiros. Uma aplicação desse tipo daria mais informação e autonomia ao cidadão.
Ferramentas deste tipo seriam um importante apoio e um facilitador das funções do Encarregado de Proteção de Dados. Teríamos, neste caso, um verdadeiro sistema de apoio à decisão como já existe noutras áreas do Direito em diferentes localizações.
Não obstante todos os benefícios que reconhecemos ao uso da Inteligência Artificial nestes domínios, não podemos deixar de defender que a mesma só pode ser usada dentro dos limites legais e éticos e isso só será possível através de uma cooperação estreita entre tecnólogos e juristas. Estes limites têm de ser bastante exigentes, mas, ao mesmo tempo, não demasiadamente limitativos ou impeditivos de avanços.
Tendo em conta estas preocupações, a Comissão Europeia disponibilizou a versão final de um guia de princípios éticos que devem nortear o desenvolvimento de Inteligência Artificial. A regulação da ética na IA deve envolver os governos, instituições supranacionais e a indústria numa força conjunta, e tem de assumir força de lei para que essas exigências sejam vinculativas.
Defendemos que nestes processos dominados pela máquina tem de existir alguma intervenção humana, principalmente quando se trate de sistemas de apoio à decisão. Para além do controlo dos algoritmos por algoritmos, teremos de ter intervenção humana.
Não poderíamos aceitar que a aplicação de uma coima por não cumprimento do RGPD fosse aplicada por uma autoridade de controlo baseada exclusivamente nos resultados apresentados por um algoritmo. Importa investir verdadeiramente em literacia digital ética para que os avanços tecnológicos sirvam bons propósitos sem ferir a liberdade e a justiça e todos possamos deles beneficiar.
* Jurista da Primavera BSS
IN "EXAME INFORMÁTICA"
22/08/19
.
A Inteligência Artificial
ao serviço do RGPD
A Inteligência Artificial e o Machine Learning poderão ser uma mais-valia para as autoridades de controlo e para as organizações verificarem a conformidade com o RGPD e poderão dar mais informação e autonomia aos cidadãos.
Apesar
de a Inteligência Artificial (IA) e o Machine Learning (ML) não terem
surgido agora, a verdade é que ganharam maior interesse e visibilidade
nos últimos anos, dada a força dos progressos alcançados, sendo mesmo as
tecnologias mais abordadas em praticamente todos os fóruns de debate
tecnológico e, em muitos casos, alargando-se a outras áreas do
conhecimento.
Também no que respeita à proteção de dados pessoais, estas tecnologias poderão ter um papel fundamental. Através da identificação/construção de padrões, a IA permitirá uma rápida identificação de novos dados pessoais registados nas organizações, assim como uma catalogação quase imediata e automática. O fator antecipação poderia ser materializado “ensinando” a máquina, por exemplo, a reconhecer e aplicar os prazos legais de manutenção/conservação dos diferentes dados pessoais.
Através da IA seria possível criar um sistema de apoio à decisão, como acontece aliás há vários anos noutras áreas. Deste tipo de iniciativas são exemplo o Expertius (sistema mexicano de apoio à tomada de decisão judicial no âmbito do Direito da Família) ou o Family Winner (sistema de apoio à decisão no âmbito da Direito da Família na Austrália). Este tipo de agentes inteligentes de software poderão ser uma mais-valia na verificação de falhas e na avaliação da conformidade no âmbito de auditorias internas, podendo também auxiliar as autoridades de controlo nas ações de inspeção às organizações.
Recentemente, por via do algoritmo Claudette, tivemos uma prova de conceito de que é possível usar, com bons resultados, a IA, através do Machine Learning, nestes domínios. Este algoritmo foi usado pela Organização Europeia de Consumidores para analisar as políticas de privacidade de 14 empresas de tecnologia. Com o objetivo de avaliar a conformidade com o RGPD, de políticas de privacidade de entidades como a Google ou o Facebook, entre outros, recorreu-se à IA para apoiar na deteção de falhas ou insuficiências de textos face a exigências legais, o que aconteceu.
Um documento deste tipo é longo e complexo, agora imagine como será multiplicado por 14 (!). Isso, implicaria vários dias de análise de um ser humano que, além do cansaço, teria dificuldade em garantir exatamente o mesmo nível de concentração durante essa análise. Através desta tecnologia, conseguiu-se otimizar a análise (efetuada em muito menos tempo do que seria se fosse efetuada por um humano), aplicando-se exatamente os mesmos critérios de análise a cada um dos textos, aumentando a justiça da análise em si e dos resultados obtidos.
A IA pode auxiliar em diferentes frentes. Poderá, por exemplo, ser usada no desenvolvimento de ferramentas de análise ao serviço das autoridades de controlo e, bem assim, das associações de defesa dos consumidores, permitindo detetar falhas e incoerências na atuação dos responsáveis pelo tratamento. Também os consumidores finais, os cidadãos comuns, terão a tarefa mais facilitada. Com recurso a uma app ou um sistema simples, por exemplo, não teriam de ler/analisar um texto longo de acordo com critérios de análise que podem não conhecer, e, de forma simples e rápida, conseguiriam perceber que categorias de dados estão a ser recolhidos/tratados, quais os fundamentos invocados, para que finalidades, período de manutenção desses dados e se os mesmos são ou não partilhados com terceiros. Uma aplicação desse tipo daria mais informação e autonomia ao cidadão.
Ferramentas deste tipo seriam um importante apoio e um facilitador das funções do Encarregado de Proteção de Dados. Teríamos, neste caso, um verdadeiro sistema de apoio à decisão como já existe noutras áreas do Direito em diferentes localizações.
Não obstante todos os benefícios que reconhecemos ao uso da Inteligência Artificial nestes domínios, não podemos deixar de defender que a mesma só pode ser usada dentro dos limites legais e éticos e isso só será possível através de uma cooperação estreita entre tecnólogos e juristas. Estes limites têm de ser bastante exigentes, mas, ao mesmo tempo, não demasiadamente limitativos ou impeditivos de avanços.
Tendo em conta estas preocupações, a Comissão Europeia disponibilizou a versão final de um guia de princípios éticos que devem nortear o desenvolvimento de Inteligência Artificial. A regulação da ética na IA deve envolver os governos, instituições supranacionais e a indústria numa força conjunta, e tem de assumir força de lei para que essas exigências sejam vinculativas.
Defendemos que nestes processos dominados pela máquina tem de existir alguma intervenção humana, principalmente quando se trate de sistemas de apoio à decisão. Para além do controlo dos algoritmos por algoritmos, teremos de ter intervenção humana.
Não poderíamos aceitar que a aplicação de uma coima por não cumprimento do RGPD fosse aplicada por uma autoridade de controlo baseada exclusivamente nos resultados apresentados por um algoritmo. Importa investir verdadeiramente em literacia digital ética para que os avanços tecnológicos sirvam bons propósitos sem ferir a liberdade e a justiça e todos possamos deles beneficiar.
* Jurista da Primavera BSS
IN "EXAME INFORMÁTICA"
22/08/19
.
Subscrever:
Mensagens (Atom)