Esta história foi publicada originalmente no Social Media Today. Para receber notícias e insights diários, inscreva-se na nossa newsletter diária gratuita do Social Media Today.
Sim, isso parece que vai ser um problema no futuro, embora talvez isso seja considerado o custo do progresso?
Na semana passada, a Common Sense Media publicou um novo relatório que descobriu que 72% dos adolescentes nos EUA já usaram um companheiro de IA, com muitos deles agora a realizar interações sociais regulares com os seus amigos virtuais escolhidos.
O estudo é baseado em uma pesquisa com 1.060 adolescentes, portanto, é destinado a ser uma medida indicativa, não uma visão definitiva do uso de IA. Mas as tendências apontam para algumas preocupações potencialmente significativas, especialmente à medida que as plataformas agora buscam introduzir bots de IA que também podem servir como parceiros românticos de alguma forma.
Primeiramente, como mencionado, os dados mostram que 72% dos adolescentes já experimentaram companheiros de IA, e 52% deles tornaram-se usuários regulares desses bots.
O que vale a pena notar aqui é que os bots de IA não estão nem perto de onde provavelmente estarão em alguns anos, com as empresas de tecnologia investindo bilhões de dólares para avançar seus bots de IA, tornando-os mais relacionáveis, mais conversacionais e melhores emular do envolvimento humano real.
Mas não são. Estes são bots, que respondem a pistas de conversa com base no contexto que têm disponível e no sistema de ponderação que cada empresa coloca no seu processo de back-end. Portanto, não são uma simulação precisa da interação humana real, e nunca serão, devido à verdadeira conexão mental e física que isso permite.
No entanto, estamos a caminhar para um futuro onde isto se tornará uma substituição mais viável para o verdadeiro envolvimento cívico. Mas e se um bot for alterado, infectado com código prejudicial, hackeado, desligado, etc.?
As implicações mais amplas de permitir e encorajar tal conexão ainda não são conhecidas, em termos dos impactos na saúde mental que podem resultar disso.
Mas estamos a avançar na mesma, com os dados a mostrar que 33% dos adolescentes já usam companheiros de IA para interação social e relacionamentos.
Claro que, parte disso pode acabar sendo altamente benéfico, em contextos variados.
Por exemplo, a capacidade de fazer perguntas que você pode não se sentir à vontade para dizer a outra pessoa pode ser uma grande ajuda, com os dados da pesquisa mostrando que 18% dos usuários de companheiros de IA se referem às ferramentas para obter conselhos.
A interação sem julgamento tem benefícios claros, enquanto 39% dos usuários de companheiros de IA também transferiram habilidades sociais que praticaram com robôs para situações da vida real (notavelmente, 45% das mulheres fizeram isso, em comparação com 34% dos usuários masculinos).
A história continuaEntão, certamente haverá benefícios. Mas, como nas redes sociais antes disso, a questão é se esses aspectos positivos acabarão por superar os potenciais negativos da dependência excessiva de entidades não humanas para um envolvimento tradicionalmente humano.
31% dos participantes da pesquisa indicaram que consideram as conversas com companheiros de IA tão satisfatórias ou mais satisfatórias do que as com amigos da vida real, enquanto 33% escolheram IA em vez de humanos para certas conversas.
Como foi mencionado, o fato de que esses bots podem ser tendenciosos a responder com base em linhas ideológicas é uma preocupação nesse sentido, assim como a tendência das ferramentas de IA a “alucinar” e fazer suposições incorretas em suas respostas, que então afirmam como fato. Isso poderia levar os jovens pelo caminho errado, o que poderia resultar em danos potenciais, enquanto, novamente, a mudança para companheiros de IA como parceiros românticos levanta ainda mais questões sobre o futuro dos relacionamentos.
Parece inevitável que esta vai tornar-se uma utilização mais comum para ferramentas de IA, que as nossas relações incipientes com simuladores humanos levarão mais pessoas a procurar levar essas relações compreensivas e sem julgamentos para outro nível. Pessoas reais nunca irão entender você como o seu bot de IA alinhado algorítmicamente pode, e isso pode acabar por agravar a epidemia de solidão, ao invés de a abordar, como alguns sugeriram.
E se os jovens estão a aprender esses novos comportamentos relacionais nos seus anos formativos, o que é que isso faz para o seu futuro conceito de conexão humana, se de facto sentirem que precisam disso?
E eles realmente precisam disso. Séculos de estudos sublinharam a importância da conexão humana e da comunidade, e a necessidade de ter relacionamentos reais para ajudar a moldar sua compreensão e perspectiva. Bots de IA podem ser capazes de simular parte disso, mas a conexão física real também é importante, assim como a proximidade humana, a participação no mundo real, etc.
Estamos a afastar-nos disso ao longo do tempo, e poderia-se argumentar, já, que o aumento das taxas de solidão severa, que a OMS declarou como uma "ameaça global à saúde urgente", já está a ter grandes impactos na saúde.
De fato, estudos mostraram que a solidão está associada a um aumento de 50% no risco de desenvolver demência e a um aumento de 30% no risco de ocorrência de doença arterial coronariana ou acidente vascular cerebral.
Os bots de IA vão ajudar nisso? E se não, por que estamos a insistir tanto? Por que é que todas as aplicações agora tentam fazer com que converse com essas entidades não reais e compartilhe os seus segredos mais profundos com as suas ferramentas de IA em evolução?
Isto é mais benéfico para a sociedade, ou para as grandes plataformas tecnológicas que estão a construir estes modelos de IA?
Se você tende a concluir pelo último ponto, então o progresso parece ser o foco maior, assim como era com as redes sociais antes disso. Os provedores de IA já estão pressionando a União Europeia para relaxar suas restrições ao desenvolvimento de IA, enquanto a iminente corrida pelo desenvolvimento de IA entre nações também está aumentando a pressão sobre todos os governos para afrouxar as rédeas, em favor da aceleração da inovação.
Mas devemos nos sentir encorajados pela busca da Meta por "superinteligência", ou preocupados com a rapidez com que essas ferramentas estão se tornando tão comuns em elementos de sério impacto potencial?
Isso não quer dizer que o desenvolvimento da IA em si seja mau, e há muitos casos de uso para as últimas ferramentas de IA que, de fato, aumentarão a eficiência, a inovação, a oportunidade, etc.
Mas parece haver algumas áreas nas quais devemos provavelmente agir com mais cautela, devido aos riscos de dependência excessiva e os impactos disso em larga escala.
Isso aparentemente não vai acontecer, mas em dez anos, vamos avaliar isso de uma perspectiva completamente diferente.
Você pode consultar o relatório "Falar, Confiar e Compensações" da Common Sense Media aqui.
Ver Comentários
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
Novo Estudo Mostra que os Adolescentes Estão Cada Vez Mais a Confiar em Chatbots de IA para Interação Social
Esta história foi publicada originalmente no Social Media Today. Para receber notícias e insights diários, inscreva-se na nossa newsletter diária gratuita do Social Media Today.
Sim, isso parece que vai ser um problema no futuro, embora talvez isso seja considerado o custo do progresso?
Na semana passada, a Common Sense Media publicou um novo relatório que descobriu que 72% dos adolescentes nos EUA já usaram um companheiro de IA, com muitos deles agora a realizar interações sociais regulares com os seus amigos virtuais escolhidos.
O estudo é baseado em uma pesquisa com 1.060 adolescentes, portanto, é destinado a ser uma medida indicativa, não uma visão definitiva do uso de IA. Mas as tendências apontam para algumas preocupações potencialmente significativas, especialmente à medida que as plataformas agora buscam introduzir bots de IA que também podem servir como parceiros românticos de alguma forma.
Primeiramente, como mencionado, os dados mostram que 72% dos adolescentes já experimentaram companheiros de IA, e 52% deles tornaram-se usuários regulares desses bots.
O que vale a pena notar aqui é que os bots de IA não estão nem perto de onde provavelmente estarão em alguns anos, com as empresas de tecnologia investindo bilhões de dólares para avançar seus bots de IA, tornando-os mais relacionáveis, mais conversacionais e melhores emular do envolvimento humano real.
Mas não são. Estes são bots, que respondem a pistas de conversa com base no contexto que têm disponível e no sistema de ponderação que cada empresa coloca no seu processo de back-end. Portanto, não são uma simulação precisa da interação humana real, e nunca serão, devido à verdadeira conexão mental e física que isso permite.
No entanto, estamos a caminhar para um futuro onde isto se tornará uma substituição mais viável para o verdadeiro envolvimento cívico. Mas e se um bot for alterado, infectado com código prejudicial, hackeado, desligado, etc.?
As implicações mais amplas de permitir e encorajar tal conexão ainda não são conhecidas, em termos dos impactos na saúde mental que podem resultar disso.
Mas estamos a avançar na mesma, com os dados a mostrar que 33% dos adolescentes já usam companheiros de IA para interação social e relacionamentos.
Claro que, parte disso pode acabar sendo altamente benéfico, em contextos variados.
Por exemplo, a capacidade de fazer perguntas que você pode não se sentir à vontade para dizer a outra pessoa pode ser uma grande ajuda, com os dados da pesquisa mostrando que 18% dos usuários de companheiros de IA se referem às ferramentas para obter conselhos.
A interação sem julgamento tem benefícios claros, enquanto 39% dos usuários de companheiros de IA também transferiram habilidades sociais que praticaram com robôs para situações da vida real (notavelmente, 45% das mulheres fizeram isso, em comparação com 34% dos usuários masculinos).
A história continuaEntão, certamente haverá benefícios. Mas, como nas redes sociais antes disso, a questão é se esses aspectos positivos acabarão por superar os potenciais negativos da dependência excessiva de entidades não humanas para um envolvimento tradicionalmente humano.
31% dos participantes da pesquisa indicaram que consideram as conversas com companheiros de IA tão satisfatórias ou mais satisfatórias do que as com amigos da vida real, enquanto 33% escolheram IA em vez de humanos para certas conversas.
Como foi mencionado, o fato de que esses bots podem ser tendenciosos a responder com base em linhas ideológicas é uma preocupação nesse sentido, assim como a tendência das ferramentas de IA a “alucinar” e fazer suposições incorretas em suas respostas, que então afirmam como fato. Isso poderia levar os jovens pelo caminho errado, o que poderia resultar em danos potenciais, enquanto, novamente, a mudança para companheiros de IA como parceiros românticos levanta ainda mais questões sobre o futuro dos relacionamentos.
Parece inevitável que esta vai tornar-se uma utilização mais comum para ferramentas de IA, que as nossas relações incipientes com simuladores humanos levarão mais pessoas a procurar levar essas relações compreensivas e sem julgamentos para outro nível. Pessoas reais nunca irão entender você como o seu bot de IA alinhado algorítmicamente pode, e isso pode acabar por agravar a epidemia de solidão, ao invés de a abordar, como alguns sugeriram.
E se os jovens estão a aprender esses novos comportamentos relacionais nos seus anos formativos, o que é que isso faz para o seu futuro conceito de conexão humana, se de facto sentirem que precisam disso?
E eles realmente precisam disso. Séculos de estudos sublinharam a importância da conexão humana e da comunidade, e a necessidade de ter relacionamentos reais para ajudar a moldar sua compreensão e perspectiva. Bots de IA podem ser capazes de simular parte disso, mas a conexão física real também é importante, assim como a proximidade humana, a participação no mundo real, etc.
Estamos a afastar-nos disso ao longo do tempo, e poderia-se argumentar, já, que o aumento das taxas de solidão severa, que a OMS declarou como uma "ameaça global à saúde urgente", já está a ter grandes impactos na saúde.
De fato, estudos mostraram que a solidão está associada a um aumento de 50% no risco de desenvolver demência e a um aumento de 30% no risco de ocorrência de doença arterial coronariana ou acidente vascular cerebral.
Os bots de IA vão ajudar nisso? E se não, por que estamos a insistir tanto? Por que é que todas as aplicações agora tentam fazer com que converse com essas entidades não reais e compartilhe os seus segredos mais profundos com as suas ferramentas de IA em evolução?
Isto é mais benéfico para a sociedade, ou para as grandes plataformas tecnológicas que estão a construir estes modelos de IA?
Se você tende a concluir pelo último ponto, então o progresso parece ser o foco maior, assim como era com as redes sociais antes disso. Os provedores de IA já estão pressionando a União Europeia para relaxar suas restrições ao desenvolvimento de IA, enquanto a iminente corrida pelo desenvolvimento de IA entre nações também está aumentando a pressão sobre todos os governos para afrouxar as rédeas, em favor da aceleração da inovação.
Mas devemos nos sentir encorajados pela busca da Meta por "superinteligência", ou preocupados com a rapidez com que essas ferramentas estão se tornando tão comuns em elementos de sério impacto potencial?
Isso não quer dizer que o desenvolvimento da IA em si seja mau, e há muitos casos de uso para as últimas ferramentas de IA que, de fato, aumentarão a eficiência, a inovação, a oportunidade, etc.
Mas parece haver algumas áreas nas quais devemos provavelmente agir com mais cautela, devido aos riscos de dependência excessiva e os impactos disso em larga escala.
Isso aparentemente não vai acontecer, mas em dez anos, vamos avaliar isso de uma perspectiva completamente diferente.
Você pode consultar o relatório "Falar, Confiar e Compensações" da Common Sense Media aqui.
Ver Comentários