“O propósito da tecnologia é servir a humanidade e acelerar o florescimento humano. Qualquer tecnologia que não alcance esse objetivo é um fracasso e deve ser rejeitada. Esse é o ponto de partida da nossa abordagem na Microsoft AI, onde estamos construindo uma IA humanista, subordinada, alinhada e contida.” Este é o texto de abertura da primeira versão da proposta da Microsoft AI de criação do que chamou de Código de Conduta de IA Humanista, destinado a criar um manual de treinamento a respeito de como os novos modelos de inteligência artificial devem ser desenvolvidos e aplicados.

Para isso, foi aberta uma consulta pública na qual, durante as próximas seis semanas, as pessoas poderão apresentar ideias para o aprimoramento da proposta. A íntegra da versão preliminar do código de conduta já está disponível e pode ser consultada no site da Microsoft AI, uma divisão da Microsoft responsável pelo conjunto de tecnologias, ferramentas e soluções de IA da big tech. “O documento está aberto a comentários e sugestões. Sabemos que nem sempre acertaremos em tudo. Queremos saber sua opinião: o que tornaria a IA mais útil, capaz, segura, confiável e valiosa para você”, diz o texto.

O código deverá valer como um manual técnico que definirá o comportamento do sistema, os limites operacionais e os protocolos de supervisão em todos os modelos de vanguarda da IA Geral e se baseia na estrutura de superinteligência humanista da divisão, anunciada em novembro passado, que estabelece critérios para avaliar os modelos antes do lançamento comercial.

O documento estabelece dez princípios que priorizam a autoridade humana em detrimento das capacidades autônomas da IA e orientam os engenheiros a projetar modelos que evitem imitar a consciência humana ou simular preferências subjetivas. A Microsoft AI explicou: “O desenvolvimento da IA ​​está se acelerando. Os sistemas se tornam dramaticamente mais capazes a cada poucos meses. A adoção e o uso da IA ​​continuam a aumentar. Os recentes incidentes de segurança envolvendo campanhas de hackers em larga escala, altamente coordenadas e persistentes, direcionadas a agentes de IA, comprovam que não há tempo a perder. Os riscos são altos e só tendem a aumentar”.

Depois do encerramento da consulta pública, a equipe principal de redação do código de conduta analisará as sugestões e os comentários que receber e publicará, no início de novembro, um resumo das alterações adotadas. “Não podemos prometer nada sobre o que será incorporado, mas garantimos que ouviremos e consideraremos atentamente todos os comentários. Publicaremos uma versão revisada ainda este ano”, afirmou a Microsoft AI.