Por Daniel dos Santos

A divulgação da notícia pelo jornal Folha de S. Paulo esta semana de que o governo do Estado de São Paulo, que é comando por Tarcísio de Freitas, pretende utilizar o ChatGPT (popular ferramenta de inteligência artificial generativa) para a produção de parte das aulas para o ensino fundamental e o ensino médio, substituindo professores, preocupou especialistas em educação e mesmo em tecnologia.

Afinal,  não são poucos os relatos de geração de conteúdos incorretos por parte de ferramentas de IA. Isso sem falar nas questões relativas à pedagogia e risco de desemprego, entre outras.  O AIoT Brasil conversou com alguns especialistas sobre o tema para saber suas opiniões.

Alucinações e “emburrecimento”

Lucas Rodrigues (à esquerda), mestre em data science pela Universidade de Paris, CEO e cofundador da Clipping (edtech que desenvolveu uma tecnologia de IA para auxiliar alunos e que criou um algoritmo que permite correção de redação por meio de IA), deixa evidente sua preocupação com a confiabilidade do ChatGPT.“É uma responsabilidade grande implementar projetos de IA no contexto de educação. Um dos principais desafios do uso do ChatGPT e de outros LLMs (Large Language Model) na educação são as ‘alucinações’ produzidas por esses modelos de linguagem”, destaca. Segundo ele, os LLMs são muito bons em produzir respostas que soam extremamente convincentes, mas são factualmente erradas. “É preciso que haja um controle de qualidade robusto para minimizar esses riscos inerentes a essas tecnologias em contextos educacionais”, completa.

O professor e pesquisador Alexandre Freire (à direita), da pós-graduação em segurança da informação da UFRJ, conhece bem tanto o mundo da tecnologia como a área acadêmica, pois sua área de atuação abrange a evolução das tecnologias de redes aplicadas a assuntos relacionados à segurança de redes.

“Acho um grande retrocesso abdicar da capacidade humana de ser o centro do conhecimento para virar coadjuvante da inteligência artificial”, afirma ele, ao ser questionado sobre a iniciativa do governo de São Paulo. “Esse movimento retira completamente a capacidade do embasamento científico e do contínuo desenvolvimento da capacidade do intelecto humano, construindo uma situação em que agora passamos a consumir o conteúdo gerado pela inteligência artificial e não mais a criá-lo”, explica Freire.

Segundo ele, ainda há muito que se caminhar para que a inteligência artificial saiba diferenciar possíveis erros no contexto de uma determinada pesquisa. “Não estou dizendo aqui que a tecnologia nunca pode ser utilizada para preparar uma aula, mas ela deve servir como apoio de pesquisa para temas pontuais e não como veículo da substituição integral da capacidade intelectual humana”, explica.

De acordo com o professor da UFRJ, se não compreendermos o valor do homem como centro do conhecimento científico, estaremos preparando futuras gerações que serão desenvolvidas tecnologicamente, porém, mais limitadas intelectualmente do que seus ancestrais.  “Não podemos deixar que a tecnologia emburreça a humanidade”, destaca.

Questionado se uma ferramenta de inteligência artificial como ChatGPT é capaz de substituir um professor, Ronaldo Ramires, professor da Faculdade Sirius (instituição de ensino focada em inteligência artificial e ciência de dados) é taxativo. “De forma alguma! Um prompt não pode substituir completamente um professor. Ele não possui a capacidade de interação humana nem a experiência prática adquirida com o tempo e de acordo com a situação do dia a dia.”

Avanço tecnológico, mas com responsabilidade
Já o professor Igor Arnaldo de Alencar (educador e pesquisador do Think Tank da ABES e doutorando no Programa de Pós-graduação em Ciências, Tecnologias e Inclusão da Universidade Federal Fluminense) vê o uso da IA para criação de aulas com um misto de satisfação e preocupação.

“Como professor e especialista em gamificação, vejo essa notícia como um desenvolvimento interessante, mas também carregado de alguns desafios, considerações éticas e mesmo considerações emocionais. Isso porque a automação na produção de conteúdo educacional pode oferecer uma eficiência e agilidade na criação de aulas, especialmente em larga escala, como é o caso das redes estaduais de ensino. No entanto, essa substituição significativa do papel dos professores na elaboração dessas aulas me levanta algumas preocupações”, explica.

Alencar aponta, primeiramente, que a qualidade do material produzido pela IA generativa precisa ser cuidadosamente avaliada. Segundo ele, embora a inteligência artificial possa ser capaz de gerar conteúdo de forma rápida, ela não pode ter a sensibilidade humana necessária para criar materiais pedagogicamente eficazes e adaptados às necessidades específicas dos alunos.

“Também precisamos considerar que a relação entre professor e aluno é fundamental para o processo educacional, e a utilização massiva de inteligência artificial na produção de aulas realmente pode reduzir a interação humana e a possível personalização do ensino, elementos essenciais para o engajamento e aprendizado dos alunos.”

Ele também avalia que é crucial considerar as implicações éticas e sociais dessa mudança. “O impacto no emprego dos professores, bem como a qualidade e diversidade do ensino, devem ser cuidadosamente examinados, pois precisamos garantir que os professores também tenham um papel significativo na hora da revisão e adaptação do material gerado por essa inteligência artificial, e que pode se tornar também uma abordagem mais equilibrada”, destaca.

Andriei Gutierrez (à esquerda), vice-presidente da ABES (Associação Brasileira de Empresas de Software) lembra que a IA generativa pode ser “uma ferramenta de pesquisa fantástica para estudantes e pesquisadores e deveria ter seu uso estimulado ao máximo considerando a idade e o estágio de aprendizado”.

Mas ele destaca que é importante que esse estímulo venha acompanhado de orientações de que os alunos podem usar as ferramentas de maneira segura e fontes alternativas de referência (como biografias e sites confiáveis), para que os alunos possam também verificar a veracidade a acuracidade das informações pesquisadas. “É preciso ensinar o aluno a ser o profissional do futuro, que precisará saber manejar a IA e ao mesmo tempo usá-la com confiança, responsabilidade e segurança”, completa.

Procurada pela redação do AIoT Brasil, a assessoria de imprensa da Secretaria de Educação do governo de São Paulo enviou a seguinte nota:

Não procede a informação que os professores serão substituídos por ChatGPT ou por qualquer outra ferramenta de Inteligência Artificial (IA).
A Secretaria da Educação do Estado de São Paulo (Seduc-SP) planeja implementar um projeto-piloto para incluir a IA como uma das etapas do processo de atualização e aprimoramento de aulas do terceiro bimestre dos Anos Finais do Ensino Fundamental e do Ensino Médio.   

Esse processo de fluxo editorial ainda será testado e passará por todas as etapas de validação para que seja avaliada a possível implementação. Nele, as aulas que já foram produzidas por um professor curriculista e já estão em uso na rede são aprimoradas pela IA com a inserção de novas propostas de atividades, exemplos de aplicação prática do conhecimento e informações adicionais que enriqueçam as explicações de conceitos-chave de cada aula.   

Na sequência, esse conteúdo será avaliado e editado por professores curriculistas em duas etapas diferentes, além de passar por revisão de direitos autorais e intervenções de design. Por fim, se essa aula estiver de acordo com os padrões pedagógicos, será disponibilizada como versão atualizada das aulas feitas em 2023.

Atualmente, a Seduc-SP conta com um time de cerca de 90 professores curriculistas.