No início era o verbo: em novembro de 2022, o lançamento do ChatGPT inaugurou o nosso encantamento com as IAs generativas, aplicações que geram texto a partir de comandos em linguagem natural. Em dois meses a plataforma já tinha alcançado a marca de 100 milhões de usuários – a adoção mais rápida da história.
Hoje, dois anos depois, as IAs generativas estão integradas em muitos dos aplicativos com os quais aprendemos ou trabalhamos, e seu avanço no mercado de tecnologias educacionais é considerável.
No entanto, esse avanço não está livre de riscos. Nesse estágio do seu desenvolvimento, os aplicativos que geram imagens são notórios por reproduzir vieses de todos os tipos, fabricando conteúdos racistas e misóginos, ou perpetuando estereótipos. Os textos gerados são tão bem escritos que somos induzidos a acreditar neles, mesmo sem poder conhecer as fontes. Além da maior circulação de conteúdos imprecisos, estamos vendo o aumento do uso malicioso dessas IAs, com a produção de deep fakes que manipulam opiniões e destroem reputações.
Nesse cenário, o letramento para o uso adequado e ético dessas tecnologias é fundamental. Mas o que exatamente devemos ensinar? Quais competências serão necessárias para garantir a autonomia dos cidadão? Em resposta a essas perguntas, a Unesco lançou em outubro as Matrizes de Competências de IA para Estudantes e para Professores, documentos que não só norteiam a construção de currículos e formações, como o fazem a partir de uma premissa flexibilizadora: a de que há um nível básico de conhecimento e agência, essencial a todos, e que estudos mais aprofundados serão capazes de fundamentar uma prática criativa que mobilize usos dessas tecnologias de forma centrada em valores e interesses humanos.
Tais competências surgem do cruzamento de quatro pilares essenciais (abordagens centradas no ser humano, ética das IAs, aspectos técnicos das IAs e suas aplicações, e design de sistemas) com três níveis de proficiência (entender, aplicar e criar). No lado dos estudantes, essa matriz tem como diferencial a promoção da autonomia, transformando-os de receptores passivos de informações em co-criadores ativos de IAs. A proposta é que os jovens da “Geração IA” sejam capazes não só de entender o funcionamento dessas tecnologias, mas também questioná-la, avaliando os impactos sociais e ambientais e, eventualmente, projetando soluções que priorizem o bem comum.
A matriz de competências da UNESCO alinha-se especialmente com os objetivos da educação midiática nos pilares que tratam da abordagem centrada no entendimento crítico. É considerado um letramento necessário a qualquer cidadão entender que os sistemas de IA incorporam valores humanos; que devemos operá-los de maneiras que respeitem direitos humanos, dignidade e diversidade, garantindo que decisões críticas permaneçam sob nosso controle; e que nossas práticas sejam seguras, responsáveis e éticas.
Esta organização multidimensional da Matriz de Competências faz com que seja um documento norteador de grande utilidade – seja para currículos de computação, com mais foco no entendimento técnico e desenvolvimento de tecnologias, seja para iniciativas de educação midiática e cidadania digital, com o objetivo de fortalecer o uso crítico das IAs e a resiliência da sociedade frente aos seus riscos. Ao final, seja qual for o recorte adotado, todos teremos como finalidade comum a preservação do tecido social e a garantia do bem-estar para indivíduos, para a sociedade e para o planeta.