Web Summit: O poder da IA e os “pecados” dos anos 90
«A Signal tem triunfado num mundo dominado pelos dados. Estamos a remar contra a maré num ecossistema definido pela vigilância». Foi com um apelo à mudança na indústria tecnológica que Meredith Whittaker, presidente da aplicação de mensagens encriptadas Signal, se apresentou no palco da Web Summit, em Lisboa, garantindo que «é possível fazer tecnologia de forma mais consciente e ética.»
Numa conversa com Steve Clemons (editor da Semafor) subordinada ao tema “Is AI the real deal or all hype?”, a executiva norte-americana não poupou nas críticas ao modelo de negócio das chamadas Big Tech. De acordo com Meredith Whittaker, «o que move a indústria tech é a monetização dos dados pessoais dos utilizadores, que são comercializados para fins publicitários, para treinar modelos de IA, o que seja. É um negócio incrivelmente lucrativo.»
A responsável integrou a Google durante 13 anos, mas abandonou a companhia em 2019 em desacordo com a forma como a IA estava a ser desenvolvida internamente para fins militares e, desde então, tem sido uma das vozes mais críticas da indústria. No palco principal da Web Summit, Meredith Whittaker lembrou que o termo “Inteligência Artificial” não é novo, tendo sido cunhado em 1956 para designar um conjunto de tecnologias, algumas das quais estão agora a criar esta «onda de hype (entusiasmo)». O problema, explica, é que o «ressurgimento» da IA «deriva de um poder concentrado que está nas mãos de uma mão-cheia empresas que detém o monopólio do modelo de vigilância.»
Para Meredith Whittaker, na origem do problema está a forma como os Governos – em particular o norte-americano – falharam em regular e supervisionar as Big Tech nos anos 90 do século passado. «Nesta altura, as empresas que se estabeleceram no mercado conseguiram crescer com as enormes redes montadas que lhes permitiram extrair dados e promover massivamente os seus produtos e serviços.»
E agora, alega, estão a aproveitar esses mesmos dados e sistemas para liderarem o ecossistema da IA, ou não fosse a maior parte das inovações nesta área baseada nas bases de dados e modelos de treino desenvolvidos por estas grandes companhias. Por essa razão, «temos de recuar aos pecados dos anos 90 se queremos endereçar verdadeiramente a IA», defende a presidente da Signal, assegurando que «o futuro não é inevitável.»
No que toca à Signal, a operação é gerida pela Signal Foundation, uma organização sem fins lucrativos, o que significa que a app de mensagens não é paga (ao invés, aceita doações dos utilizadores), mas também, sobretudo, que não recolhe quaisquer tipos de dados dos utilizadores. «Para mantermos a integridade da nossa missão, precisávamos de estar estruturados de forma a não sentirmos a tentação ou a pressão de participar num modelo de negócio que ameaça a privacidade. Tivemos de construir uma abordagem não tecnológica para desenvolver uma app que é acessível ao mundo inteiro sem guardar qualquer tipo de dados», garantiu a responsável, lembrando que isso só foi possível graças «à dedicação de uma equipa sénior muito profissional.»
Já sobre os primeiros passos que têm sido dados para regular a IA, nomeadamente a ordem executiva assinada pelo Executivo de Joe Biden nos EUA e os AI Acts na União Europeia, Meredith Whittaker lembrou que «estamos no início de um trabalho que vai demorar muito tempo» e que «ainda não tem resultados práticos». No entanto, elogiou algumas medidas, nomeadamente o foco que tem sido dado nos AI Acts a tecnologias emergentes, como o reconhecimento emocional. «Algumas empresas de IA alegam que, com base em dados biométricos, conseguem determinar determinados traços de personalidade das pessoas – se são bons profissionais, se são honestos, entre outras coisas. Isto precisa urgentemente de ser revisto, porque pode ter consequências incrivelmente nocivas para as pessoas», defendeu.
Questionada sobre se as empresas que dominam este ecossistema vão ser melindradas por estas tentativas de regulação, a presidente da Signal lembrou que até «podem sentir alguma pressão, mas não estão a fazer nada de verdadeiramente transformacional» para o seu negócio. E alertou ainda que a indústria não pode estar «na sala» quando este tipo de debates acontece, lembrando que a AI Summit, que decorreu recentemente em Londres, contou maioritariamente com a participação de executivos das tecnológicas. «Tivemos a indústria tecnológica a falar sobre como regular a tecnologia.»
Meredith Whittaker recusou ainda a ideia de que a IA seja a resposta milagrosa para alguns dos principais problemas macro que enfrentamos como sociedade, tais como a desigualdade de género, as alterações climáticas ou o racismo. «São problemas políticos e sociais altamente enraizados, não são problemas tecnológicos que possam ser resolvidos com recurso a ferramentas criadas por estas empresas, sem uma vontade política significativa por detrás. Como é que a IA poderia resolver, por exemplo, as alterações climáticas se continuamos a extrair recursos naturais? O problema reside no desencontro entre o modelo capitalista e o futuro de um planeta que queremos que continue habitável», sublinhou.
Para terminar, a responsável expressou o desejo de que outras pessoas que estão agora a desenvolver negócios baseados em IA possam seguir o exemplo da Signal. «Acredito que podemos mostrar que a tecnologia pode tomar outro rumo. Podemos servir como um modelo para todos os que queiram actuar de forma consciente e ética nesta área», concluiu.
Texto de Daniel Almeida