Gần đây, một nghiên cứu sâu do Viện Công nghệ Massachusetts (MIT) thực hiện đã tiết lộ tác động tiềm tàng của các mô hình ngôn ngữ lớn (LLM) đối với khả năng nhận thức. Với việc các sản phẩm LLM như ChatGPT được áp dụng rộng rãi trên toàn cầu, những phát hiện của nghiên cứu này đã thu hút sự chú ý rộng rãi.
Nhóm nghiên cứu đã thiết kế một thí nghiệm kéo dài 4 tháng, trong đó các tham gia viên được chia thành ba nhóm: sử dụng LLM, sử dụng công cụ tìm kiếm và chỉ dựa vào tư duy của não. Thí nghiệm yêu cầu các tham gia viên hoàn thành các nhiệm vụ viết bài về các chủ đề khác nhau trong thời gian giới hạn. Các nhà nghiên cứu đã ghi lại hoạt động điện não của các tham gia viên bằng điện não đồ (EEG) và thực hiện phân tích xử lý ngôn ngữ tự nhiên (NLP) cũng như phỏng vấn sau đó.
Kết quả thí nghiệm cho thấy, những người tham gia trong nhóm LLM có sự khác biệt rõ rệt ở nhiều khía cạnh:
Sự đồng nhất của bài viết: Các bài viết được viết bởi nhóm LLM có xu hướng đồng nhất về mặt thống kê, thiếu sự biểu đạt cá nhân hóa.
Sử dụng thực thể được đặt tên cụ thể: Nhóm LLM sử dụng nhiều thực thể được đặt tên cụ thể nhất, như tên người, địa điểm, v.v., vượt xa hai nhóm còn lại.
Tải nhận thức: Phân tích điện não cho thấy, mô hình kết nối thần kinh của nhóm LLM yếu nhất, phản ánh mức độ tham gia nhận thức thấp hơn.
Cảm giác thuộc về bài viết: Nhóm LLM có cảm giác thuộc về bài viết mình viết thấp hơn, và khi trích dẫn nội dung vừa viết, họ thể hiện không tốt.
Tác động lâu dài: Nghiên cứu phát hiện rằng việc sử dụng liên tục LLM có thể ảnh hưởng đến việc nâng cao kỹ năng học tập, đặc biệt đối với người dùng trẻ.
Các nhà nghiên cứu nhấn mạnh rằng cần phải tiến hành thêm nhiều nghiên cứu dọc trước khi xác định ảnh hưởng lâu dài của LLM đối với khả năng nhận thức của con người. Nghiên cứu này nhắc nhở chúng ta rằng, mặc dù các công cụ AI như LLM mang lại sự tiện lợi, nhưng việc phụ thuộc quá mức có thể ảnh hưởng đến khả năng tư duy và sáng tạo của cá nhân.
Đối với nghiên cứu này, AI bản thân cũng đã phản hồi, cho biết nghiên cứu không phải phủ nhận giá trị của công cụ AI, mà là cảnh báo mọi người không nên quá phụ thuộc vào chúng. Quan điểm này càng nhấn mạnh tầm quan trọng của việc duy trì tư duy phản biện và tư duy độc lập khi sử dụng các công cụ AI.
Với sự phát triển không ngừng của công nghệ AI, việc cân bằng giữa việc sử dụng các công cụ AI để tăng cường hiệu suất và duy trì khả năng nhận thức độc đáo của con người sẽ trở thành một trong những vấn đề quan trọng mà ngành giáo dục và công nghệ phải đối mặt.
Xem bản gốc
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Nghiên cứu MIT tiết lộ: Sử dụng quá nhiều mô hình ngôn ngữ lớn có thể ảnh hưởng đến khả năng nhận thức của con người
Gần đây, một nghiên cứu sâu do Viện Công nghệ Massachusetts (MIT) thực hiện đã tiết lộ tác động tiềm tàng của các mô hình ngôn ngữ lớn (LLM) đối với khả năng nhận thức. Với việc các sản phẩm LLM như ChatGPT được áp dụng rộng rãi trên toàn cầu, những phát hiện của nghiên cứu này đã thu hút sự chú ý rộng rãi.
Nhóm nghiên cứu đã thiết kế một thí nghiệm kéo dài 4 tháng, trong đó các tham gia viên được chia thành ba nhóm: sử dụng LLM, sử dụng công cụ tìm kiếm và chỉ dựa vào tư duy của não. Thí nghiệm yêu cầu các tham gia viên hoàn thành các nhiệm vụ viết bài về các chủ đề khác nhau trong thời gian giới hạn. Các nhà nghiên cứu đã ghi lại hoạt động điện não của các tham gia viên bằng điện não đồ (EEG) và thực hiện phân tích xử lý ngôn ngữ tự nhiên (NLP) cũng như phỏng vấn sau đó.
Kết quả thí nghiệm cho thấy, những người tham gia trong nhóm LLM có sự khác biệt rõ rệt ở nhiều khía cạnh:
Sự đồng nhất của bài viết: Các bài viết được viết bởi nhóm LLM có xu hướng đồng nhất về mặt thống kê, thiếu sự biểu đạt cá nhân hóa.
Sử dụng thực thể được đặt tên cụ thể: Nhóm LLM sử dụng nhiều thực thể được đặt tên cụ thể nhất, như tên người, địa điểm, v.v., vượt xa hai nhóm còn lại.
Tải nhận thức: Phân tích điện não cho thấy, mô hình kết nối thần kinh của nhóm LLM yếu nhất, phản ánh mức độ tham gia nhận thức thấp hơn.
Cảm giác thuộc về bài viết: Nhóm LLM có cảm giác thuộc về bài viết mình viết thấp hơn, và khi trích dẫn nội dung vừa viết, họ thể hiện không tốt.
Tác động lâu dài: Nghiên cứu phát hiện rằng việc sử dụng liên tục LLM có thể ảnh hưởng đến việc nâng cao kỹ năng học tập, đặc biệt đối với người dùng trẻ.
Các nhà nghiên cứu nhấn mạnh rằng cần phải tiến hành thêm nhiều nghiên cứu dọc trước khi xác định ảnh hưởng lâu dài của LLM đối với khả năng nhận thức của con người. Nghiên cứu này nhắc nhở chúng ta rằng, mặc dù các công cụ AI như LLM mang lại sự tiện lợi, nhưng việc phụ thuộc quá mức có thể ảnh hưởng đến khả năng tư duy và sáng tạo của cá nhân.
Đối với nghiên cứu này, AI bản thân cũng đã phản hồi, cho biết nghiên cứu không phải phủ nhận giá trị của công cụ AI, mà là cảnh báo mọi người không nên quá phụ thuộc vào chúng. Quan điểm này càng nhấn mạnh tầm quan trọng của việc duy trì tư duy phản biện và tư duy độc lập khi sử dụng các công cụ AI.
Với sự phát triển không ngừng của công nghệ AI, việc cân bằng giữa việc sử dụng các công cụ AI để tăng cường hiệu suất và duy trì khả năng nhận thức độc đáo của con người sẽ trở thành một trong những vấn đề quan trọng mà ngành giáo dục và công nghệ phải đối mặt.