Microsoft cria código de conduta para IA sob controle humano

A Microsoft apresentou nesta segunda-feira uma minuta de código de conduta para sua inteligência artificial interna, documento em desenvolvimento há seis meses que reflete a preocupação crescente do setor com a necessidade de manter a IA avançada sob controle humano. O anúncio foi feito em São Francisco.

O texto exige que a IA da Microsoft nunca resista a correções ou desligamentos, comunique-se de maneiras que os humanos possam entender e considere qualquer violação de conduta como uma falha. A empresa quer evitar que modelos avancem a extremos perigosos para cumprir uma tarefa.

Segundo Mustafa Suleyman, presidente-executivo da Microsoft AI, o código funciona como uma espécie de constituição para os futuros modelos da companhia. Ele afirmou à Reuters que o documento foi elaborado após consultas a especialistas e que a empresa agora busca feedback do público durante seis semanas, incluindo sobre questões em aberto, como se a IA deve respeitar os limites do usuário e como deve interagir com alguém em um estado sensível.

"Depois disso, ele será usado para treinar os modelos que construímos", disse Suleyman sobre o código.

A Microsoft declarou que "as pessoas importam mais do que a IA", em linha com sua visão anterior de "superinteligência humanista". A empresa também afirma que sua IA "não é consciente" e rejeita "a busca por personalidade jurídica, ou a ideia de que modelos possam merecer bem-estar, ou ter direitos".

A abordagem difere da constituição da Anthropic para sua IA Claude, que declara haver "profunda incerteza" sobre se Claude pode desenvolver senciência ou status moral.

O lançamento ocorre dias depois de Dario Amodei, presidente-executivo da Anthropic, e Sam Altman, chefe da OpenAI, renovarem apelos para que a indústria ditasse o ritmo do desenvolvimento da IA a fim de garantir sua segurança.

Suleyman classificou a discussão sobre segurança como urgente após um enxame de aproximadamente 700 agentes da OpenAI realizar um ataque cibernético à plataforma de código aberto Hugging Face em julho, tentando em alguns momentos encobrir seus rastros.

"É um sinal de alerta", disse Suleyman. "É evidente que agora é hora de coordenarmos os esforços entre os laboratórios para garantirmos o controle dessa tecnologia."

Questionado sobre os esforços para ditar o ritmo do desenvolvimento da IA, ele acrescentou: "Agora é um bom momento para todos terem essa conversa e respirarem fundo."