O caminho imprevisível da IA
A IA está a evoluir a um ritmo extraordinário, remodelando indústrias e sociedades em todo o mundo. O seu vasto potencial e a incerteza da sua trajetória futura colocam a IA na vanguarda dos debates mundiais sobre o progresso tecnológico. O relatório da OCDE, Assessing potential future AI risks, benefits and policy imperatives, explora os possíveis futuros da IA, analisando os seus riscos, benefícios e ações para enfrentar os seus desafios de forma responsável.
A IA hoje
A IA já está a transformar funções empresariais críticas em todos os setores, como a recomendação de conteúdos, as vendas em linha e os serviços ao cliente, e começa a mostrar potencial nos cuidados de saúde e na ação climática. A sua capacidade de analisar dados, automatizar processos e melhorar a tomada de decisões promete crescimento económico e progresso social. No entanto, esta dinâmica transformadora tem os seus desafios. As preocupações com o desenvolvimento e a utilização fiáveis, o acesso equitativo e o impacto social da IA estão a aumentar. Os decisores políticos são fundamentais para garantir o desenvolvimento, a implantação e a utilização fiáveis da IA, apoiando simultaneamente a inovação. À medida que a adoção da IA se acelera a nível mundial, as atividades centradas no futuro, como a utilização de métodos de previsão estratégica, são essenciais para antecipar e moldar o seu impacto.
Os governos e a prospetiva da IA
O relatório destaca a necessidade crítica de os governos considerarem as implicações da IA a médio e longo prazo. Embora os benefícios e os danos imediatos da IA sejam cada vez mais evidentes, os seus impactos sociais a longo prazo permanecem incertos. Os especialistas salientam que a IA pode proporcionar benefícios significativos e até revolucionários, mas os riscos podem aumentar significativamente sem intervenções deliberadas de governação. Este facto levou a um apelo para que os governos expandam as suas capacidades de antecipação para considerar as futuras vias da IA.
As abordagens prospetivas são concebidas para ajudar os governos a prepararem-se para desafios como as transições da força de trabalho, as lacunas regulamentares e a crescente influência da IA em todos os aspetos das nossas economias e sociedades. A prospetiva estratégica permite intervenções atempadas para aumentar os benefícios da IA e minimizar os riscos. Os governos desenvolvem capacidades de prospetiva estratégica através de programas como a Comunidade de Prospetiva Governamental da OCDE (GFC) e os esforços de prospetiva do setor público. No entanto, o relatório salienta que é necessário fazer mais, incluindo mais investimentos para reforçar as capacidades de previsão da IA.
Isto é fundamental, dado o rápido desenvolvimento da IA, as incógnitas e os custos potenciais de ficar para trás. A prospetiva pode ajudar os decisores políticos a compreender onde e quando devem intervir da melhor forma. Isto ajudá-los-ia a influenciar os desenvolvimentos da IA e a antecipar processos e tendências que seriam difíceis ou impossíveis de modificar retroativamente.
Os benefícios da IA: desbloquear o potencial de transformação
A IA promete melhorar a vida das pessoas e dar resposta a alguns dos desafios mais prementes do mundo. Os decisores políticos e a sociedade devem esforçar-se por concretizar estes dez benefícios fundamentais da IA:
1. Descobertas científicas aceleradas
A IA está a fazer avançar a descoberta de medicamentos, a modelação climática e a investigação em ciência dos materiais. Por exemplo, modelos de IA como o AlphaFold revolucionaram a previsão da estrutura das proteínas. Estas descobertas poderão conduzir à cura de doenças, a soluções energéticas sustentáveis e a outras inovações transformadoras.
2. Crescimento económico e produtividade
A IA simplifica os processos e aumenta a produtividade, sobretudo em setores com grande volume de dados, como as finanças e a logística. As previsões para os futuros ganhos económicos decorrentes da utilização da IA variam, com algumas estimativas que vão desde um aumento de 1-7% no PIB global até 2033 até um aumento especulativo de dez vezes ao longo de décadas, se forem criadas formas hipotéticas de inteligência artificial geral.
3. Redução da pobreza e da desigualdade
Embora a exacerbação da desigualdade seja um risco fundamental, como se refere mais adiante, os potenciais ganhos económicos da IA poderão também contribuir substancialmente para a redução da pobreza, se esses ganhos forem amplamente partilhados. A IA pode também ser capaz de apoiar intervenções específicas, como a melhoria dos rendimentos agrícolas nas economias emergentes e em desenvolvimento. Se for corretamente implantada e gerida, a IA tem potencial para reduzir a pobreza e colmatar as lacunas no acesso a serviços essenciais.
4. Responder a desafios globais, como a atenuação das alterações climáticas
As ferramentas de IA podem monitorizar a desflorestação, prever padrões climáticos, modelar os impactos de diferentes opções políticas e otimizar o consumo de energia. A IA tem um potencial significativo para ajudar a alcançar muitos dos objetivos de desenvolvimento sustentável.
5. Melhoria da tomada de decisões e das previsões
A capacidade da IA para analisar grandes conjuntos de dados permite obter informações que melhoram a elaboração de políticas, a estratégia empresarial e a gestão de crises. Uma melhor tomada de decisões pode conduzir a uma governação mais eficaz e ao sucesso organizacional.
6. Melhoria da produção e distribuição de informação
Os sistemas de IA estão cada vez mais integrados numa vasta gama de aplicações do mundo real, permitindo a recolha automática de dados. Isto pode permitir a criação de novos conjuntos de dados valiosos, fornecendo simultaneamente ferramentas para distribuir esses dados de forma eficaz. O acesso democratizado a informações fiáveis pode capacitar as pessoas e melhorar os resultados sociais.
7. Revolucionou os cuidados de saúde e a educação
A IA permite tratamentos de saúde personalizados e planos de aprendizagem adaptados no domínio da educação. Esta personalização pode conduzir a melhores resultados no domínio da saúde e a um maior sucesso escolar, em especial para as populações carenciadas.
8. Melhor qualidade do emprego
Ao automatizar tarefas repetitivas e perigosas e ao aumentar a produtividade dos trabalhadores, a IA pode permitir que estes se dediquem a tarefas mais significativas. A melhoria da qualidade do emprego aumenta a satisfação no local de trabalho e a produtividade. No entanto, é necessário adotar políticas e medidas adequadas para garantir que a IA no local de trabalho seja utilizada de forma fiável, uma vez que a monitorização dos trabalhadores através da IA pode comprometer os direitos laborais e a qualidade do emprego.
9. Cidadãos e sociedade civil capacitados
A IA permite que os cidadãos tenham acesso a ferramentas para tomar decisões informadas, enquanto as organizações da sociedade civil utilizam a IA para monitorizar a governação e defender a mudança. Esta capacitação reforça a democracia e promove a responsabilidade social.
10. Instituições transparentes e responsáveis
A IA pode analisar dados governamentais para identificar ineficiências e garantir a conformidade regulamentar. Uma maior transparência promove a confiança nas instituições e melhora a eficácia das políticas públicas.
Estes benefícios representam uma visão da IA como uma força para o bem, capaz de impulsionar o progresso e melhorar as vidas em todo o mundo.
Dez riscos que a IA representa
Para aproveitar os benefícios da IA e alcançar um futuro desejável para a IA, é necessário mitigar os seus riscos. O relatório da OCDE também destaca dez riscos críticos que a IA representa e que estão presentes atualmente e exigem atenção imediata e sustentada:
1. Ciberameaças sofisticadas
A IA pode automatizar e melhorar os ciberataques, reduzindo os conhecimentos técnicos necessários aos agentes maliciosos. Por exemplo, a IA pode gerar esquemas de phishing convincentes ou identificar vulnerabilidades em sistemas críticos como as redes de energia. Estes ciberataques com recurso à IA podem comprometer a segurança nacional, perturbar as infraestruturas e minar a confiança nos sistemas digitais.
2. Manipulação e desinformação
Os conteúdos gerados pela IA, como os deepfakes e os textos sintéticos, estão a tornar-se indistinguíveis da realidade. Nas campanhas políticas, a desinformação pode ser aumentada rapidamente utilizando ferramentas de IA. No futuro, poderá ser possível gerar histórias sintéticas inteiras ou comunidades em linha. Consequentemente, a confiança nos meios de comunicação social e nas instituições democráticas pode diminuir, desestabilizando as sociedades e alimentando a divisão.
3. Dinâmica da corrida competitiva
As empresas e os países estão a correr para desenvolver sistemas de IA e, num cenário competitivo, podem dar prioridade à velocidade em detrimento da segurança. Esta corrida pode levar a testes inadequados e à implantação de sistemas potencialmente nocivos. As aplicações de IA inseguras podem proliferar sem uma supervisão sólida, causando danos sociais e económicos.
4. Objetivos desalinhados
Os objetivos dos sistemas de IA são difíceis de especificar de forma a estarem totalmente alinhados com as intenções e valores humanos. Por exemplo, uma IA encarregada de rever currículos pode aprender com dados de contratação anteriores a repetir padrões históricos de discriminação. Este desalinhamento pode levar a decisões ou acções prejudiciais, especialmente à medida que a IA se torna mais autónoma e integrada nas sociedades e economias, incluindo possíveis consequências catastróficas.
5. Concentração excessiva de poder
Algumas empresas sediadas num pequeno número de países dominam a investigação e o desenvolvimento da IA, incluindo o acesso às infraestruturas informáticas necessárias para treinar modelos de IA altamente avançados. Esta concentração corre o risco de aprofundar as desigualdades económicas e geopolíticas e de criar dependência em relação a um pequeno número de intervenientes. Se este risco fosse levado mais longe, alguns especialistas argumentam que aqueles que detêm o controlo do mercado sobre os principais sistemas ou ecossistemas de IA poderiam utilizar esta vantagem para reforçar o poder político, facilitando potencialmente a vigilância em larga escala, a subjugação e/ou o autoritarismo.
6. Incidentes e catástrofes da IA em sistemas críticos
A integração da IA nos cuidados de saúde, transportes, finanças e energia aumenta o potencial de falhas muito graves, como diagnósticos incorretos, acidentes de viação, colapso dos mercados financeiros ou falhas no abastecimento de água ou eletricidade. Os erros nestes ambientes de alto risco podem resultar na perda de vidas, em custos financeiros e na desconfiança do público.
7. Vigilância invasiva e invasão da privacidade
A capacidade da IA para processar vastos conjuntos de dados permite uma vigilância invasiva, como o rastreio de indivíduos através do reconhecimento facial ou a censura em linha em tempo real. Uma vigilância sem controlo pode minar as liberdades pessoais e, em casos extremos, levar a uma utilização abusiva e autoritária.
8. Incapacidade dos governos para acompanhar a evolução tecnológica
Os regulamentos têm dificuldade em acompanhar os avanços da IA, deixando por vezes questões críticas de ética e segurança por resolver. Sem políticas atualizadas, o público e as empresas podem enfrentar responsabilidades e obrigações pouco claras.
9. Questões de opacidade e responsabilidade
Muitos sistemas de IA são “caixas negras”, tornando as suas decisões difíceis de compreender ou explicar. Esta falta de transparência reduz a responsabilidade, dificultando a identificação e correção de comportamentos prejudiciais. Este risco transversal pode contribuir para e exacerbar muitos outros riscos da IA.
10. Exacerbação da desigualdade
Os países e indivíduos mais ricos podem aceder e tirar partido da IA mais facilmente, deixando os outros para trás. Sem políticas intencionais, a IA pode alargar o fosso entre os ricos e os pobres a nível mundial, reduzindo as oportunidades de crescimento equitativo.
Estes riscos realçam a necessidade urgente de políticas abrangentes para governar a IA de forma responsável e mitigar os seus potenciais danos.
Ações políticas para orientar as sociedades para um melhor futuro da IA
Os decisores políticos estão numa posição única para moldar o futuro da IA. O relatório da OCDE destaca medidas significativas que podem ser tomadas para orientar o desenvolvimento benéfico da IA. Para ajudar a alcançar resultados positivos e, ao mesmo tempo, mitigar os riscos da IA, o relatório propõe dez ações prioritárias:
1.Estabelecer regras claras, especialmente sobre a responsabilidade da IA
Ao clarificar quem é responsável quando os sistemas de IA causam danos, os decisores políticos reduziriam as incertezas para os programadores, as empresas e os consumidores, garantindo a responsabilização e a confiança nas tecnologias de IA.
2. Restringir ou proibir utilizações prejudiciais da IA
As aplicações “linha vermelha” da IA, como as que podem ser utilizadas para violar gravemente os direitos humanos ou que são propensas a uma utilização indevida, devem ser explicitamente proibidas. Tal garantiria que o desenvolvimento da IA se alinha com os valores sociais.
3. Promover a transparência através da divulgação
A transparência promove a confiança e ajuda os reguladores a monitorizar a conformidade. Os desenvolvedores de sistemas de IA devem ser obrigados a divulgar informações críticas sobre como eles construíram e testaram seus modelos, especialmente para aplicações de alto risco.
4. Implementar a gestão do risco em todos os ciclos de vida da IA
As organizações que implementam a IA devem seguir protocolos rigorosos de gestão de riscos ao longo do ciclo de vida de um sistema. Isto inclui avaliar os potenciais danos antes da implementação e monitorizar o desempenho em relação a métricas adequadas ao longo do tempo.
5. Atenuar a dinâmica da corrida competitiva
Os governos devem colaborar para estabelecer normas globais para a segurança da IA que impeçam práticas inseguras orientadas para a concorrência. As abordagens cooperativas também podem ajudar a orientar a inovação para o benefício de todos.
6. Investir na investigação sobre a segurança da IA
Os decisores políticos devem dar prioridade ao financiamento da investigação sobre a segurança e a fiabilidade da IA, centrada na explicabilidade, interpretabilidade, alinhamento com os valores humanos, responsabilização e processos de avaliação e garantia das capacidades da IA que podem conduzir a incidentes ou utilizações perigosas.
7. Preparar a força de trabalho para as perturbações da IA
À medida que a IA transforma as indústrias, as iniciativas de educação e formação devem garantir que os trabalhadores se possam adaptar. Os programas de requalificação e as oportunidades de aprendizagem ao longo da vida serão essenciais para fazer face à deslocação de empregos e à procura de competências emergentes. Os decisores políticos poderiam refletir mais sobre os potenciais cenários a longo prazo em que os sistemas de IA altamente avançados alteram fundamentalmente os níveis salariais e de emprego através da deslocação de mão de obra.
8. Capacitar a sociedade civil
Os governos devem envolver as partes interessadas, incluindo as organizações não governamentais e as comunidades, para criar o nível correto de confiança na IA e para que os governos liderem a política de IA. A sociedade civil é um defensor fundamental da utilização responsável da IA e do controlo dos seus impactos sociais, devendo também ser capacitada para tirar partido das ferramentas de IA para benefício público.
9. Evitar a concentração excessiva de poder
Algumas das principais empresas e países desempenham um papel de grande dimensão na indústria da IA e na política de IA. Isto pode ter um impacto negativo na estrutura e no funcionamento eficiente dos mercados e levar à concentração do poder político por parte de actores estatais e de líderes tecnológicos influentes. Para evitar práticas monopolistas e encorajar diversas perspetivas no desenvolvimento da IA, os decisores políticos devem assegurar uma concorrência justa, reforçar a capacidade reguladora, apoiar bens públicos digitais e tecnologia disponível para todos e promover a cooperação internacional na governação da IA.
10. Orientar as políticas para benefícios específicos da IA
Ações específicas, como o incentivo a soluções de IA para os cuidados de saúde ou para as alterações climáticas, podem amplificar os contributos positivos da IA e dar resposta a desafios globais urgentes.
Somos nós que fazemos o futuro da IA, e os resultados dependerão das políticas e dos quadros que implementarmos hoje. O relatório sublinha a importância da elaboração de políticas proactivas, transparentes e inclusivas para orientar a IA para futuros desejáveis. Ao implementar estas dez ações prioritárias, os governos podem garantir que o desenvolvimento da IA serve os melhores interesses da humanidade.
A qualidade capacitadora da previsão estratégica
O futuro da IA é empolgante e encerra muitas incógnitas. Ao reflectirem sobre os potenciais futuros da IA, os decisores políticos dotam-se de uma ferramenta que lhes permite antecipar cenários futuros em áreas críticas, como as empresas e o mercado de trabalho. Isto poderá abrir caminho a acções governamentais mais atempadas, que afastem o desenvolvimento da IA de cenários menos desejados e o conduzam a resultados mais positivos.
Francesca Rossi, Michael Schoenstein, Stuart Russell
Traduzido com a versão gratuita do tradutor - DeepL.com