Por Matthew Connelly, Pró-Reitor de Iniciativas de Inteligência Artificial da Columbia University, publicado no jornal The New York Times. Tradução livre.
Como educadores, temos o dever de defender – e promover – a inteligência humana. Para isso, precisamos primeiro reconhecer que a inteligência humana está sob ataque. A ficção científica há muito tempo retrata um futuro em que a inteligência artificial se torna tão poderosa que subjuga a humanidade. De fato, a batalha entre robôs e cérebros já começou, e os educadores podem vislumbrar como ela pode terminar. Os jovens estão se tornando tão dependentes da IA que estão perdendo a capacidade de pensar por si mesmos. E, em vez de se mobilizarem para resistir, os administradores acadêmicos estão auxiliando e incentivando uma derrocada do ensino superior.
Na esperança de serem reconhecidos como líderes em IA ou com medo de ficarem para trás, cada vez mais faculdades e universidades estão estabelecendo parcerias com empresas de IA, apesar de décadas de evidências que demonstram a necessidade de testar a tecnologia educacional, que muitas vezes não consegue promover melhorias mensuráveis na aprendizagem dos alunos. As empresas de IA estão exercendo uma influência desproporcional sobre o ensino superior e usando esses ambientes como campos de treinamento para alcançar seu objetivo de criar inteligência artificial generativa (sistemas de IA que podem substituir humanos).
Visto o uso crescente de ferramentas de IA, líderes universitários como eu têm pouca escolha a não ser negociar os termos de acesso à IA para alunos e professores, apenas porque somos legalmente obrigados a proteger informações sensíveis dos alunos. Mas isso não constitui uma verdadeira parceria de universidades com empresas de IA.
Na diplomacia, você sabe que está lidando com um adversário quando ele semeia a divisão em suas fileiras. A empresa de IA Anthropic, por exemplo, está exigindo taxas exorbitantes para contas corporativas e pagando “embaixadores universitários” para promover o uso de suas ferramentas de IA Claude nas escolas. Outras empresas prometem bônus em dinheiro quando os alunos atingem metas de marketing. Isso cria conflitos de interesse, especialmente quando esses embaixadores pagos ocupam cargos eletivos em grêmios estudantis.
Um aluno de graduação da Universidade Columbia, Roy Lee, gabou-se de ter desenvolvido uma ferramenta de IA para trapacear em entrevistas de emprego online na área de tecnologia. A empresa de capital de risco Andreessen Horowitz expressou admiração por sua “abordagem ousada”, explicando que “nos bastidores, suas ações são baseadas em estratégia deliberada e intencionalidade”. A empresa ajudou a arrecadar US$ 15 milhões para ajudar a iniciar a empresa cofundada pelo Sr. Lee, que afirmou querer ajudar os usuários a “trapacear em tudo”.
Empreendedores do Vale do Silício dizem querer ver suas ferramentas usadas de forma responsável e que preservem a integridade na educação. O CEO da OpenAI, Sam Altman, afirmou que os educadores “deveriam liderar essa próxima transformação com a IA”, e a OpenAI alega estar criando “ferramentas para educadores” que “os ajudem a liderar o caminho”. Mas, nos bastidores, suas ações demonstram o contrário. Anos atrás, a empresa desenvolveu uma tecnologia com 99,9% de precisão na detecção de trabalhos gerados pelo ChatGPT. Executivos seniores debateram internamente se deveriam ou não permitir o acesso dos educadores à ferramenta. Optaram por não permitir. Entre os motivos: uma pesquisa mostrou que a inserção de padrões invisíveis, chamados marcas d’água, em textos gerados pelo ChatGPT poderia levar alguns usuários a migrarem para um produto concorrente.
Na realidade, as empresas de IA parecem enxergar os estudantes universitários como uma base de clientes vulnerável, que podem ser fisgados quando estão mais estressados. Em abril, o Sr. Altman anunciou que o ChatGPT Plus seria gratuito para estudantes universitários durante o período de provas finais. Duas semanas depois, o Google ofereceu acesso gratuito ao seu serviço premium de IA durante todo o ano letivo. A Perplexity promoveu uma competição em 2024, na qual estudantes de universidades com um grande número de inscritos ganharam seu programa de IA de ponta gratuitamente por um ano. Ao longo do último ano, alguns professores relataram uma queda acentuada no desempenho dos alunos.
As ambições da indústria de IA vão além. A OpenAI quer que um exército de bots “se torne parte da infraestrutura central do ensino superior”, o que, do ponto de vista de um administrador, poderia significar áreas que vão desde decisões de admissão até aconselhamento acadêmico. O Google diz aos meus alunos que eles “aprenderão mais rápido e de forma mais profunda” se fizerem o upload de gravações de aulas para o NotebookLM (a Universidade Columbia e outras instituições proíbem a gravação de aulas sem autorização). As universidades não têm acesso aos dados que alunos, professores e outros funcionários carregam nesses sistemas. Isso impossibilita garantir que as ferramentas de IA no campus sejam usadas de forma responsável, tanto para apoiar a educação quanto para prevenir danos.
Ainda é cedo para saber como o uso da IA afeta a capacidade de aprendizado dos jovens. Mas pesquisas sugerem que estudantes que usam IA não leem com a mesma atenção ao pesquisar e que escrevem com menor precisão e originalidade. Os estudantes nem percebem o que estão perdendo. Mas educadores e empregadores sabem. Ler atentamente, pensar criticamente e escrever com lógica e embasamento são justamente as habilidades necessárias para que as pessoas percebam o verdadeiro potencial da IA para apoiar o aprendizado ao longo da vida.
Alguns educadores estão encontrando maneiras de aproveitar a IA para impulsionar o engajamento intelectual e incentivar a exploração criativa. Outros, porém, desconfiam tanto do Vale do Silício que proíbem qualquer uso de IA, deixando os estudantes descobrirem por conta própria como usá-la de forma ética e eficaz. A busca desenfreada pela IAG (inteligência artificial generativa) não apenas prejudicou a educação dos jovens, a base do progresso futuro, como também dificultou significativamente a construção de apoio ao desenvolvimento de sistemas que poderiam ajudar a tornar os estudantes mais inteligentes.
A história mostra que guerras podem ser perdidas antes mesmo de serem declaradas se os defensores cederem terreno estratégico sem lutar. Para as universidades, esse terreno representa o patamar mais elevado: a própria inteligência humana. Se não lutarmos por ela agora, aqueles que vierem depois de nós enfrentarão uma luta ainda mais desigual.
Categorias:educação
A Química da Vida 
Deixe um comentário