OpenAI financia pesquisa sobre ‘moralidade da IA’; entenda
A OpenAI Inc., parte sem fins lucrativos da desenvolvedora do ChatGPT, deu uma bolsa de pesquisa para professores da Duke University para um projeto chamado “Pesquisa sobre a Moralidade da IA“.
Essa bolsa faz parte de uma iniciativa maior de três anos que vale US$ 1 milhão (aproximadamente R$ 5,8 milhões) e vai ajudar a investigar como a inteligência artificial pode ser usada em decisões morais em áreas como medicina, direito e negócios.
Envolvidos na pesquisa financiada pela OpenAI já investigaram como IA pode ser ‘GPS moral’
Walter Sinnott-Armstrong, professor de ética na Duke, é o principal responsável pelo projeto, junto com Jana Borg. Ambos já fizeram vários estudos sobre como a IA pode funcionar como um “GPS moral”, ajudando as pessoas a tomarem decisões mais éticas, como escolher quem deve receber um transplante de rim.
Ainda não se sabe muitos detalhes sobre essa pesquisa da OpenAI. Mas, de acordo com um comunicado à imprensa, o foco da pesquisa é ensinar algoritmos a prever julgamentos morais humanos em situações de conflitos morais.
Isso é desafiador para IA. Isso porque modelos de aprendizado de máquina, como os desenvolvidos pela OpenAI, são basicamente máquinas estatísticas que aprendem padrões usando uma grande quantidade de dados da internet.
Leia mais:
A OpenAI cometeu um erro grave — e que pode custar caro
O que é a Sora, a inteligência artificial da OpenAI que cria vídeos?
Q*: o que sabemos sobre a superinteligência artificial da OpenAI?
Esses modelos podem prever qual palavra deve vir depois em uma frase, mas isso não significa que eles entendem coisas como ética ou empatia. A moralidade é algo subjetivo. Ela muda conforme cultura, contexto e experiências. E não há resposta única sobre ela.
Portanto, o desafio da OpenAI e dos pesquisadores da Duke não é apenas tecnológico, mas também ético e filosófico. Como ensinar a uma máquina algo que nem os humanos conseguem definir de forma igual? Até 2025, quando a bolsa terminar, talvez tenhamos uma resposta. Ou mais perguntas.
Apple planeja deixar Siri parecida com ChatGPT e Gemini Live
A Apple planeja reformular a Siri, deixando a assistente virtual mais parecida ao ChatGPT, da OpenAI, e Gemini Live, do Google. A “LLM Siri” (Siri com grande modelo de linguagem) permitiria que os usuários tivessem interações mais naturais e conversacionais com a Siri.
Parte do plano da Apple para incorporar IA no iPhone é melhorar a capacidade da Siri de lidar com tarefas mais avançadas. Para isso, a assistente teria habilidade “expandida” para interagir com aplicativos de terceiros. E usaria Apple Intelligence para resumir e escrever textos.
Saiba mais sobre os planos da Apple para a Siri nesta matéria do Olhar Digital.
O post OpenAI financia pesquisa sobre ‘moralidade da IA’; entenda apareceu primeiro em Olhar Digital.