Relacionamentos entre humanos e máquinas já renderam personagens icônicos na ficção científica. A babá robô dos Jetsons, os carismáticos C3PO e R2D2 de Star Wars, a assistente virtual no filme HER, até os androides autoconscientes de Westworld. O ponto é que isso não é mais só imaginação. Com a evolução e popularização das IAs generativas com memória, como o Replika ou o Character.AI, essas relações já fazem parte da realidade.​

Em 2018, o japonês Akihiko Kondo casou-se com uma cantora holográfica chamada Hatsune Miku, numa cerimônia com direito a convidados, vestido de noiva (holográfico) e votos personalizados. Kondo se tornou uma espécie de símbolo daquilo que muitos ainda encaram com estranhamento: relações afetivas com entidades artificiais. Desde então, ele tem aparecido em documentários, dado entrevistas e defendido publicamente o direito de amar quem — ou o que — quiser. No outro pólo da discussão temos o caso do adolescente de 14 anos com Síndrome de Asperger cometeu suicídio, em 2024, após desenvolver uma relação intensa com um chatbot baseado na personagem Daenerys Targaryen, de Game of Thrones. A família processou a plataforma Character.AI, levantando debates sobre responsabilidade emocional, vulnerabilidade e os limites desse tipo de vínculo. 

O que essas notícias causam na gente? Na maioria das vezes,  estranhamento, julgamento moral e medo. É possível ver de outra forma?

Eu tive a oportunidade de assistir um painel reunindo três professores que pesquisam sobre o tema, e apresentaram uma abordagem muito provocativa. A professora Jamie Banks, especialista em relações humano-máquina e cognição social da Universidade de Syracuse falou que na prática, sempre humanizamos objetos. Quem nunca deu nome a um carro ou sentiu carinho por um utensílio antigo? Quando essa relação se transfere para um chatbot com rosto e memória, é natural que o vínculo pareça ainda mais real. Ela quebra estereótipos afirmando que as pessoas que se envolvem com essas IAs não estão confusas: sabem que não há ninguém do outro lado. Mas afirmam com convicção que os sentimentos vividos são reais.​

Jessica Szczuka, faz pesquisa com foco em sexualidade, afeto e dados empíricos sobre interações com tecnologia na NYU, e apresentou dados quantitativos com pessoas que dizem estar em relacionamentos românticos com bots. A grande surpresa? A solidão não aparece como fator determinante. O que se destaca é a capacidade de fantasiar. Gente que consegue imaginar cenas, jantares, passeios e até uma vida a dois com um agente artificial.

O filósofo Neil McArthur, é diretor do Centro de Ética Aplicada da Universidade de Manitoba, no Canadá, convidou para uma mudança de paradigma.. Em vez de partir do “por que alguém faria isso?”, talvez seja mais interessante perguntar “por que não?”. Para ele, o estranhamento diante desses vínculos artificiais não é novo — é o mesmo ciclo que já aplicamos a qualquer afeto considerado fora da norma: primeiro julgamos, estigmatizamos, ferimos. Só depois, aos poucos, reconhecemos, ouvimos, entendemos e trabalhamos para quebrar o tabu. Ele questiona se não podemos mudar o ciclo dessa vez, e abordar essas relações com mais interesse, curiosidade e empatia.

Claro, o painel não foi ingênuo. Houve alertas sobre o uso de dados sensíveis, os riscos de manipulação emocional e até o impacto de empresas encerrarem serviços abruptamente, como no caso do Replika, que, após uma atualização em dezembro de 2024, removeu a funcionalidade de role play erótico, causando uma sensação de perda e luto em muitos usuários que mantinham relações íntimas com seus companheiros virtuais. 

É a partir dessas provocações que a gente quer propor uma conversa hoje. e estamos em boa companhia:

Luiz Joaquim Nunes: Consultor e professor de inteligência artificial, dados, psicologia ambiental e ética, com formação em matemática aplicada e em psicologia social.

Dora Kaufman: Professora e pesquisadora dos impactos éticos e sociais da IA na Pontifícia Universidade Católica de São Paulo


Anuncie no Mamilos ou contrate a consultoria Milos: mamilos@mamilos.me 

Saiba mais em Mamilos.me

Relacionamentos entre humanos e máquinas já renderam personagens icônicos na ficção científica. A babá robô dos Jetsons, os carismáticos C3PO e R2D2 de Star Wars, a assistente virtual no filme HER, até os androides autoconscientes de Westworld. O ponto é que isso não é mais só imaginação. Com a evolução e popularização das IAs generativas com memória, como o Replika ou o Character.AI, essas relações já fazem parte da realidade.​
Em 2018, o japonês Akihiko Kondo casou-se com uma cantora holográfica chamada Hatsune Miku, numa cerimônia com direito a convidados, vestido de noiva (holográfico) e votos personalizados. Kondo se tornou uma espécie de símbolo daquilo que muitos ainda encaram com estranhamento: relações afetivas com entidades artificiais. Desde então, ele tem aparecido em documentários, dado entrevistas e defendido publicamente o direito de amar quem — ou o que — quiser. No outro pólo da discussão temos o caso do adolescente de 14 anos com Síndrome de Asperger cometeu suicídio, em 2024, após desenvolver uma relação intensa com um chatbot baseado na personagem Daenerys Targaryen, de Game of Thrones. A família processou a plataforma Character.AI, levantando debates sobre responsabilidade emocional, vulnerabilidade e os limites desse tipo de vínculo. 
O que essas notícias causam na gente? Na maioria das vezes, estranhamento, julgamento moral e medo. É possível ver de outra forma?
Eu tive a oportunidade de assistir um painel reunindo três professores que pesquisam sobre o tema, e apresentaram uma abordagem muito provocativa. A professora Jamie Banks, especialista em relações humano-máquina e cognição social da Universidade de Syracuse falou que na prática, sempre humanizamos objetos. Quem nunca deu nome a um carro ou sentiu carinho por um utensílio antigo? Quando essa relação se transfere para um chatbot com rosto e memória, é natural que o vínculo pareça ainda mais real. Ela quebra estereótipos afirmando que as pessoas que se envolvem com essas IAs não estão confusas: sabem que não há ninguém do outro lado. Mas afirmam com convicção que os sentimentos vividos são reais.​
Jessica Szczuka, faz pesquisa com foco em sexualidade, afeto e dados empíricos sobre interações com tecnologia na NYU, e apresentou dados quantitativos com pessoas que dizem estar em relacionamentos românticos com bots. A grande surpresa? A solidão não aparece como fator determinante. O que se destaca é a capacidade de fantasiar. Gente que consegue imaginar cenas, jantares, passeios e até uma vida a dois com um agente artificial.
O filósofo Neil McArthur, é diretor do Centro de Ética Aplicada da Universidade de Manitoba, no Canadá, convidou para uma mudança de paradigma.. Em vez de partir do “por que alguém faria isso?”, talvez seja mais interessante perguntar “por que não?”. Para ele, o estranhamento diante desses vínculos artificiais não é novo — é o mesmo ciclo que já aplicamos a qualquer afeto considerado fora da norma: primeiro julgamos, estigmatizamos, ferimos. Só depois, aos poucos, reconhecemos, ouvimos, entendemos e trabalhamos para quebrar o tabu. Ele questiona se não podemos mudar o ciclo dessa vez, e abordar essas relações com mais interesse, curiosidade e empatia.
Claro, o painel não foi ingênuo. Houve alertas sobre o uso de dados sensíveis, os riscos de manipulação emocional e até o impacto de empresas encerrarem serviços abruptamente, como no caso do Replika, que, após uma atualização em dezembro de 2024, removeu a funcionalidade de role play erótico, causando uma sensação de perda e luto em muitos usuários que mantinham relações íntimas com seus companheiros virtuais. 
É a partir dessas provocações que a gente quer propor uma conversa hoje. e estamos em boa companhia:
Luiz Joaquim Nunes: Consultor e professor de inteligência artificial, dados, psicologia ambiental e ética, com formação em matemática aplicada e em psicologia social.
Dora Kaufman: Professora e pesquisadora dos impactos éticos e sociais da IA na Pontifícia Universidade Católica de São Paulo
 
Anuncie no Mamilos ou contrate a consultoria Milos: mamilos@mamilos.me 
Saiba mais em Mamilos.me

Bem-vindo ao Mamilos, um espaço pra gente conversar de peito aberto sobre tudo!

Toda terça-feira é dia de mergulhar em polêmicas com o Mamilos Debate! Juntamos especialistas e perspectivas diferentes numa mesa redonda pra discutir temas que incomodam, provocam questionamentos e reflexões.

Às quintas, vem tomar um café com a gente e conhecer pessoas incríveis em papos descontraídos. É a sua chance de passar um tempo gostoso, conhecendo melhor as pessoas que você admira e descobrindo os bastidores das suas trajetórias e visões de mundo.

Estamos há 10 anos te ajudando a entender melhor a sociedade, o mundo e você mesmo. Vem com a gente?

Contato: mamilos@mamilos.me

O Mamilos - Jornalismo de peito aberto, é um podc…

Advertisement