Câu chuyện này được xuất bản lần đầu trên Social Media Today. Để nhận tin tức và thông tin hàng ngày, hãy đăng ký nhận bản tin miễn phí hàng ngày của chúng tôi trên Social Media Today.
Ừ, điều này có vẻ như sẽ trở thành một vấn đề trong tương lai, mặc dù có thể đó được coi là chi phí của sự tiến bộ?
Tuần trước, Common Sense Media đã công bố một báo cáo mới cho thấy 72% thanh thiếu niên ở Mỹ đã từng sử dụng một người bạn AI, với nhiều người trong số họ hiện đang thực hiện các tương tác xã hội thường xuyên với những người bạn ảo mà họ chọn.
Nghiên cứu dựa trên một cuộc khảo sát với 1.060 thanh thiếu niên, vì vậy nó được coi là một thước đo chỉ dẫn, không phải là một cái nhìn tổng quát chính xác về việc sử dụng AI. Nhưng các xu hướng này chỉ ra một số mối quan tâm có thể quan trọng, đặc biệt khi các nền tảng hiện đang tìm cách giới thiệu các bot AI có thể phục vụ như những đối tác tình cảm trong một số khả năng.
Trước hết, như đã đề cập, dữ liệu cho thấy 72% thanh thiếu niên đã thử nghiệm các bạn đồng hành AI, và 52% trong số họ đã trở thành người dùng thường xuyên của những con bot này.
Điều đáng lưu ý ở đây là các bot AI hiện tại chưa đạt đến mức mà chúng có khả năng có trong vài năm tới, với việc các công ty công nghệ đầu tư hàng tỷ đô la vào việc cải tiến các bot AI của họ để khiến chúng trở nên gần gũi hơn, có khả năng giao tiếp hơn và mô phỏng tốt hơn sự tương tác của con người thực.
Nhưng chúng không phải vậy. Đây là những bot, phản hồi theo các tín hiệu giao tiếp dựa trên bối cảnh mà chúng có sẵn, và bất kỳ hệ thống trọng số nào mà mỗi công ty đưa vào quy trình phía sau của họ. Vì vậy, chúng không phải là một mô phỏng chính xác của tương tác con người thực sự, và chúng sẽ không bao giờ như vậy, do sự kết nối tinh thần và thể chất thực sự được kích hoạt thông qua điều đó.
Tuy nhiên, chúng ta đang tiến tới một tương lai mà điều này sẽ trở thành một sự thay thế khả thi hơn cho sự tham gia công dân thực sự. Nhưng nếu một bot bị thay đổi, bị nhiễm mã độc hại, bị hack, bị tắt, v.v. thì sao?
Các tác động rộng lớn hơn của việc tạo điều kiện và khuyến khích kết nối như vậy vẫn chưa được biết đến, về mặt các tác động đến sức khỏe tâm thần có thể xảy ra như một kết quả.
Nhưng chúng tôi vẫn tiến về phía trước, với dữ liệu cho thấy 33% thanh thiếu niên đã sử dụng AI làm bạn đồng hành cho các tương tác xã hội và mối quan hệ.
Tất nhiên, một số điều này có thể sẽ rất có lợi, trong nhiều bối cảnh khác nhau.
Ví dụ, khả năng đặt câu hỏi mà bạn có thể không thoải mái khi nói với người khác có thể là một trợ giúp lớn, với dữ liệu khảo sát cho thấy 18% người dùng AI companion tham khảo các công cụ để được tư vấn.
Sự tương tác không phán xét có những lợi ích rõ ràng, trong khi 39% người dùng AI đồng hành cũng đã chuyển giao các kỹ năng xã hội mà họ đã thực hành với bot sang các tình huống thực tế (đặc biệt, 45% phụ nữ đã làm điều này, so với 34% nam giới ).
Câu chuyện tiếp tụcVì vậy, chắc chắn sẽ có những lợi ích. Nhưng giống như mạng xã hội trước đây, câu hỏi đặt ra là liệu những tích cực đó có vượt trội hơn những tiêu cực tiềm ẩn của việc quá phụ thuộc vào các thực thể không phải con người cho những tương tác truyền thống của con người hay không.
31% người tham gia khảo sát cho biết họ thấy những cuộc trò chuyện với các bạn đồng hành AI thỏa mãn hoặc thỏa mãn hơn so với những cuộc trò chuyện với bạn bè trong đời thực, trong khi 33% đã chọn AI thay vì con người cho một số cuộc trò chuyện nhất định.
Như đã lưu ý, thực tế là những con bot này có thể bị lệch lạc để trả lời dựa trên các đường lối tư tưởng là một mối quan tâm trong khía cạnh này, cũng như xu hướng của các công cụ AI để "ảo giác" và đưa ra những giả định sai trong các phản hồi của chúng, mà sau đó chúng tuyên bố là sự thật. Điều đó có thể dẫn dắt những người trẻ tuổi đi sai hướng, điều này có thể dẫn đến những tổn hại tiềm tàng, trong khi đó, sự chuyển hướng sang những người bạn đồng hành AI như là những đối tác lãng mạn mở ra nhiều câu hỏi hơn về tương lai của các mối quan hệ.
Có vẻ như điều này sẽ trở thành một cách sử dụng phổ biến hơn cho các công cụ AI, rằng các mối quan hệ đang phát triển của chúng ta với các mô phỏng con người sẽ dẫn đến nhiều người hơn tìm cách đưa những mối quan hệ thấu hiểu, không phán xét đó lên một tầm cao mới. Những người thực sự sẽ không bao giờ hiểu bạn như bot AI được định hướng theo thuật toán của bạn, và điều đó thực sự có thể làm trầm trọng thêm đại dịch cô đơn, thay vì giải quyết nó, như một số người đã gợi ý.
Và nếu những người trẻ đang học những hành vi quan hệ mới này trong những năm hình thành của họ, điều đó sẽ ảnh hưởng như thế nào đến khái niệm kết nối con người trong tương lai của họ, nếu thực sự họ cảm thấy họ cần điều đó?
Và họ thực sự cần điều đó. Hàng thế kỷ nghiên cứu đã nhấn mạnh tầm quan trọng của sự kết nối và cộng đồng giữa con người, cùng với nhu cầu có những mối quan hệ thực sự để giúp hình thành quan điểm và hiểu biết của bạn. Các bot AI có thể mô phỏng một phần điều đó, nhưng sự kết nối vật lý thực sự cũng quan trọng, cũng như sự gần gũi giữa con người, sự tham gia trong thế giới thực, v.v.
Chúng tôi đang dần dần rời xa điều này theo thời gian, và bạn có thể lập luận rằng, hiện tại, tỷ lệ cô đơn nghiêm trọng ngày càng tăng, điều mà WHO đã tuyên bố là "mối đe dọa sức khỏe toàn cầu cấp bách", đang có những ảnh hưởng lớn đến sức khỏe.
Thực tế, các nghiên cứu đã chỉ ra rằng sự cô đơn có liên quan đến việc tăng 50% nguy cơ phát triển chứng mất trí nhớ và tăng 30% nguy cơ mắc bệnh động mạch vành hoặc đột quỵ.
Liệu các bot AI có giúp được điều đó không? Và nếu không, tại sao chúng ta lại thúc đẩy chúng mạnh mẽ như vậy? Tại sao mọi ứng dụng bây giờ đều cố gắng khiến bạn trò chuyện với những thực thể không có thật này, và chia sẻ những bí mật sâu kín nhất của bạn với các công cụ AI đang phát triển của chúng?
Điều này có lợi hơn cho xã hội hay cho các nền tảng công nghệ lớn đang xây dựng các mô hình AI này?
Nếu bạn nghiêng về kết luận sau, thì sự tiến bộ dường như là trọng tâm lớn hơn, giống như đã từng với mạng xã hội trước đó. Các nhà cung cấp AI đang thúc đẩy Liên minh Châu Âu nới lỏng các hạn chế đối với phát triển AI, trong khi cuộc đua phát triển AI đang rình rập giữa các quốc gia cũng đang gia tăng áp lực lên tất cả các chính phủ để nới lỏng kiểm soát, nhằm đẩy nhanh đổi mới.
Nhưng chúng ta nên cảm thấy khích lệ bởi cuộc tìm kiếm "siêu trí tuệ" của Meta, hay lo ngại về tốc độ mà những công cụ này đang trở nên phổ biến trong các yếu tố có ảnh hưởng nghiêm trọng?
Điều đó không có nghĩa là sự phát triển AI tự nó là xấu, và có nhiều trường hợp sử dụng cho các công cụ AI mới nhất sẽ thực sự tăng cường hiệu suất, đổi mới, cơ hội, v.v.
Tuy nhiên, có vẻ như có một số lĩnh vực mà chúng ta nên cẩn thận hơn, do những rủi ro của việc quá phụ thuộc, và tác động của điều đó trên quy mô rộng lớn.
Có vẻ như điều đó sẽ không xảy ra, nhưng sau mười năm nữa, chúng ta sẽ đánh giá điều này từ một góc nhìn hoàn toàn khác.
Bạn có thể xem báo cáo "Nói chuyện, Tin tưởng và Trao đổi" của Common Sense Media tại đây.
Xem bình luận
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Nghiên cứu mới cho thấy thanh thiếu niên ngày càng phụ thuộc vào chatbot AI để tương tác xã hội
Câu chuyện này được xuất bản lần đầu trên Social Media Today. Để nhận tin tức và thông tin hàng ngày, hãy đăng ký nhận bản tin miễn phí hàng ngày của chúng tôi trên Social Media Today.
Ừ, điều này có vẻ như sẽ trở thành một vấn đề trong tương lai, mặc dù có thể đó được coi là chi phí của sự tiến bộ?
Tuần trước, Common Sense Media đã công bố một báo cáo mới cho thấy 72% thanh thiếu niên ở Mỹ đã từng sử dụng một người bạn AI, với nhiều người trong số họ hiện đang thực hiện các tương tác xã hội thường xuyên với những người bạn ảo mà họ chọn.
Nghiên cứu dựa trên một cuộc khảo sát với 1.060 thanh thiếu niên, vì vậy nó được coi là một thước đo chỉ dẫn, không phải là một cái nhìn tổng quát chính xác về việc sử dụng AI. Nhưng các xu hướng này chỉ ra một số mối quan tâm có thể quan trọng, đặc biệt khi các nền tảng hiện đang tìm cách giới thiệu các bot AI có thể phục vụ như những đối tác tình cảm trong một số khả năng.
Trước hết, như đã đề cập, dữ liệu cho thấy 72% thanh thiếu niên đã thử nghiệm các bạn đồng hành AI, và 52% trong số họ đã trở thành người dùng thường xuyên của những con bot này.
Điều đáng lưu ý ở đây là các bot AI hiện tại chưa đạt đến mức mà chúng có khả năng có trong vài năm tới, với việc các công ty công nghệ đầu tư hàng tỷ đô la vào việc cải tiến các bot AI của họ để khiến chúng trở nên gần gũi hơn, có khả năng giao tiếp hơn và mô phỏng tốt hơn sự tương tác của con người thực.
Nhưng chúng không phải vậy. Đây là những bot, phản hồi theo các tín hiệu giao tiếp dựa trên bối cảnh mà chúng có sẵn, và bất kỳ hệ thống trọng số nào mà mỗi công ty đưa vào quy trình phía sau của họ. Vì vậy, chúng không phải là một mô phỏng chính xác của tương tác con người thực sự, và chúng sẽ không bao giờ như vậy, do sự kết nối tinh thần và thể chất thực sự được kích hoạt thông qua điều đó.
Tuy nhiên, chúng ta đang tiến tới một tương lai mà điều này sẽ trở thành một sự thay thế khả thi hơn cho sự tham gia công dân thực sự. Nhưng nếu một bot bị thay đổi, bị nhiễm mã độc hại, bị hack, bị tắt, v.v. thì sao?
Các tác động rộng lớn hơn của việc tạo điều kiện và khuyến khích kết nối như vậy vẫn chưa được biết đến, về mặt các tác động đến sức khỏe tâm thần có thể xảy ra như một kết quả.
Nhưng chúng tôi vẫn tiến về phía trước, với dữ liệu cho thấy 33% thanh thiếu niên đã sử dụng AI làm bạn đồng hành cho các tương tác xã hội và mối quan hệ.
Tất nhiên, một số điều này có thể sẽ rất có lợi, trong nhiều bối cảnh khác nhau.
Ví dụ, khả năng đặt câu hỏi mà bạn có thể không thoải mái khi nói với người khác có thể là một trợ giúp lớn, với dữ liệu khảo sát cho thấy 18% người dùng AI companion tham khảo các công cụ để được tư vấn.
Sự tương tác không phán xét có những lợi ích rõ ràng, trong khi 39% người dùng AI đồng hành cũng đã chuyển giao các kỹ năng xã hội mà họ đã thực hành với bot sang các tình huống thực tế (đặc biệt, 45% phụ nữ đã làm điều này, so với 34% nam giới ).
Câu chuyện tiếp tụcVì vậy, chắc chắn sẽ có những lợi ích. Nhưng giống như mạng xã hội trước đây, câu hỏi đặt ra là liệu những tích cực đó có vượt trội hơn những tiêu cực tiềm ẩn của việc quá phụ thuộc vào các thực thể không phải con người cho những tương tác truyền thống của con người hay không.
31% người tham gia khảo sát cho biết họ thấy những cuộc trò chuyện với các bạn đồng hành AI thỏa mãn hoặc thỏa mãn hơn so với những cuộc trò chuyện với bạn bè trong đời thực, trong khi 33% đã chọn AI thay vì con người cho một số cuộc trò chuyện nhất định.
Như đã lưu ý, thực tế là những con bot này có thể bị lệch lạc để trả lời dựa trên các đường lối tư tưởng là một mối quan tâm trong khía cạnh này, cũng như xu hướng của các công cụ AI để "ảo giác" và đưa ra những giả định sai trong các phản hồi của chúng, mà sau đó chúng tuyên bố là sự thật. Điều đó có thể dẫn dắt những người trẻ tuổi đi sai hướng, điều này có thể dẫn đến những tổn hại tiềm tàng, trong khi đó, sự chuyển hướng sang những người bạn đồng hành AI như là những đối tác lãng mạn mở ra nhiều câu hỏi hơn về tương lai của các mối quan hệ.
Có vẻ như điều này sẽ trở thành một cách sử dụng phổ biến hơn cho các công cụ AI, rằng các mối quan hệ đang phát triển của chúng ta với các mô phỏng con người sẽ dẫn đến nhiều người hơn tìm cách đưa những mối quan hệ thấu hiểu, không phán xét đó lên một tầm cao mới. Những người thực sự sẽ không bao giờ hiểu bạn như bot AI được định hướng theo thuật toán của bạn, và điều đó thực sự có thể làm trầm trọng thêm đại dịch cô đơn, thay vì giải quyết nó, như một số người đã gợi ý.
Và nếu những người trẻ đang học những hành vi quan hệ mới này trong những năm hình thành của họ, điều đó sẽ ảnh hưởng như thế nào đến khái niệm kết nối con người trong tương lai của họ, nếu thực sự họ cảm thấy họ cần điều đó?
Và họ thực sự cần điều đó. Hàng thế kỷ nghiên cứu đã nhấn mạnh tầm quan trọng của sự kết nối và cộng đồng giữa con người, cùng với nhu cầu có những mối quan hệ thực sự để giúp hình thành quan điểm và hiểu biết của bạn. Các bot AI có thể mô phỏng một phần điều đó, nhưng sự kết nối vật lý thực sự cũng quan trọng, cũng như sự gần gũi giữa con người, sự tham gia trong thế giới thực, v.v.
Chúng tôi đang dần dần rời xa điều này theo thời gian, và bạn có thể lập luận rằng, hiện tại, tỷ lệ cô đơn nghiêm trọng ngày càng tăng, điều mà WHO đã tuyên bố là "mối đe dọa sức khỏe toàn cầu cấp bách", đang có những ảnh hưởng lớn đến sức khỏe.
Thực tế, các nghiên cứu đã chỉ ra rằng sự cô đơn có liên quan đến việc tăng 50% nguy cơ phát triển chứng mất trí nhớ và tăng 30% nguy cơ mắc bệnh động mạch vành hoặc đột quỵ.
Liệu các bot AI có giúp được điều đó không? Và nếu không, tại sao chúng ta lại thúc đẩy chúng mạnh mẽ như vậy? Tại sao mọi ứng dụng bây giờ đều cố gắng khiến bạn trò chuyện với những thực thể không có thật này, và chia sẻ những bí mật sâu kín nhất của bạn với các công cụ AI đang phát triển của chúng?
Điều này có lợi hơn cho xã hội hay cho các nền tảng công nghệ lớn đang xây dựng các mô hình AI này?
Nếu bạn nghiêng về kết luận sau, thì sự tiến bộ dường như là trọng tâm lớn hơn, giống như đã từng với mạng xã hội trước đó. Các nhà cung cấp AI đang thúc đẩy Liên minh Châu Âu nới lỏng các hạn chế đối với phát triển AI, trong khi cuộc đua phát triển AI đang rình rập giữa các quốc gia cũng đang gia tăng áp lực lên tất cả các chính phủ để nới lỏng kiểm soát, nhằm đẩy nhanh đổi mới.
Nhưng chúng ta nên cảm thấy khích lệ bởi cuộc tìm kiếm "siêu trí tuệ" của Meta, hay lo ngại về tốc độ mà những công cụ này đang trở nên phổ biến trong các yếu tố có ảnh hưởng nghiêm trọng?
Điều đó không có nghĩa là sự phát triển AI tự nó là xấu, và có nhiều trường hợp sử dụng cho các công cụ AI mới nhất sẽ thực sự tăng cường hiệu suất, đổi mới, cơ hội, v.v.
Tuy nhiên, có vẻ như có một số lĩnh vực mà chúng ta nên cẩn thận hơn, do những rủi ro của việc quá phụ thuộc, và tác động của điều đó trên quy mô rộng lớn.
Có vẻ như điều đó sẽ không xảy ra, nhưng sau mười năm nữa, chúng ta sẽ đánh giá điều này từ một góc nhìn hoàn toàn khác.
Bạn có thể xem báo cáo "Nói chuyện, Tin tưởng và Trao đổi" của Common Sense Media tại đây.
Xem bình luận