ChatGPT ngày càng được cải tiến nhưng bạn đã biết hỏi?

ChatGPT là ứng dụng dựa trên mô hình GPT (Generative Pre-training Transformer) với các bộ chuyển hóa (transformer) đã được đào tạo trước (pre-trained). ChatGPT được huấn luyện từ 570 GB tài liệu từ sách báo, Wikipedia, văn bản thu thập trên mạng.

Việc huấn luyện kết thúc vào trước tháng 08/2021 vì vậy ChatGPT không thể trả lời đội nào vô định World Cup 2022. Tuy nhiên, việc nâng cấp và hoàn thiện ChatGPT được liên tục thực hiện từ sau khi ra mắt vào ngày 30/11/2022.

ChatGPT đã thực hiện 3 lần nâng cấp trong vòng 2 tháng nay:

Phiên bản 15/12/2022 đã cải thiện hiệu suất chung, ít khả năng từ chối câu hỏi hơn,cho phép người dùng xem các cuộc hội thoại trước đây, đổi tên các cuộc hội thoại đã lưu, xóa các cuộc hội thoại trước đó, giới hạn các câu hỏi hàng ngày để tăng cường đáp ứng người sử dụng chống lạm dụng với tùy chọn tiếp tục truy cập nếu cung cấp các phản hồi để cải tiến chương trình.

Phiên bản 09/1/2023: Tiếp tục cải tiến việc trả lời trên nhiều lĩnh vực, đặc biệt tăng cường cải tiến cung cấp dữ kiện có thực (factuality) thay vì bịa (factuality) hay “sáng tạo”. Ngoài ra, người dùng có thể dừng (stop) chatGPT khi không thỏa mãn câu hỏi. Tính năng này được thực hiện sau khi phản hồi của người dùng về việc không có cơ hội dừng khi ChatGPT trả lời dài dòng.

Phiên bản 30/01/2023: đây là phiên bản mới nhất tính đến thời điểm hiện tại (4/2/2023).

Tôi sẽ đề cập đến phiên bản ngày 30/01 mới nhất một cách chi tiết hơn vì nó cải tiến một vấn nạn khá nghiêm trọng trong mô hình ngôn ngữ lớn (LLM): việc thiếu áp dụng các lập luận từng bước trong khi thực hiện câu trả lời và dẫn đến những câu trả lời sai lầm cơ bản về mặt toán học. Trong phiên bản này, các phép tính toán học sơ cấp và những suy luận cơ bản của ChatGPT đã được từng bước cải thiện.

Có giai thoại về việc ChatGPT trả lời khi được hỏi 2+7 là bao nhiêu? Đáp án của GPT lúc đó đã đúng: 9, nhưng khi người dùng đùa rằng vợ anh ta nói là 8, thì ChatGPT đã tán thành ý kiến với vợ anh chàng này. ChatGPT đã khẳng định chân lý “Vợ luôn đúng” thay vì sự thật toán học!

 

Hình 1: ChatGPT đồng ý với ý kiến 2+7=8 trong phiên bản trước


Tuy nhiên, trong phiên bản mới hơn, ChatGPT đã thay đổi, chỉ đưa ra câu hỏi đúng đắn về mặt toán học, bất chấp các dữ liệu sai lạc cung cấp từ người dùng.

 

Hình 2: ChatGPT khẳng định sự thật toán học trong phiên bản mới ngày 30/1


Tuy nhiên, tôi đã thử với trường hợp 50+60. Ban đầu, ChatGPT trả lời dúng: 110 nhưng khi tôi khẳng định 100, chatGPT đã đồng ý!

 Hình 3: Thử nghiệm của tác giả với phiên bản 30/1


Về mặt kỹ thuật, ChatGPT sử dụng "Reinforcement Learning from Human Feedback- RLHF" để ngày càng cải thiện tính năng từ hơn 10 triệu người dùng hàng ngày và hơn 100 triệu người dùng nhiệt thành trong hai tháng qua (theo thống kê của ngân hàng đầu tư UBS). Điều quan trọng là người dùng cần hợp tác với Open AI, cung cấp những phản hồi tích cực: đồng ý (  ) khi ChatGPT trả lời đúng, không đồng ý ( ) khi ChatGPT cung cấp thông tin sai.

 Hình 4: Người dùng phản hồi câu trả lời của ChatGPT


Một câu hỏi lần trước đã được cộng đồng mạng đưa ra, nhưng với phiên bản này, chatGPT vẫn tiếp tục sai!

 Hình 5: ChatGPT trả lời sai!


LLM có thể sẽ cung cấp cho bạn câu trả lời sai khi không thực hiện các phép tính từng bước (step by step) để đạt được kết quả, mà đơn giản “sáng tạo” ra một câu trả lời có vẻ hợp lý (với trường hợp này, rõ ràng ChatGPT trả hời hết sức phi lý! Tôi chưa rõ tại sao).

Với LLMs, việc sử dụng “kỹ thuật lời nhắc” (prompt engineering) hiệu quả sẽ giúp bạn nhận được câu trả lời mong muốn: đó là thêm vào một lời nhắc: “Let's think step by step” (hãy suy luận từng bước) để kích hoạt cái gọi là “Chain of Thought”  [1], suy luận sâu chuỗi, giúp cho ChatGPT kích hoạt ‘system 2”, từ dùng của Daniel Kahneman để chỉ hoạt động suy nghĩ thận trọng của con người.

 

Hình 6: Trả lời của ChatGPT khi có thêm lời nhắc "let's think step by step"


Với ví dụ:

“Trung bình Joe tung 25 cú đấm mỗi phút. Một cuộc chiến kéo dài 5 hiệp 3 phút. Anh ta đã tung ra bao nhiêu cú đấm?”

Câu trả lời của phiên bản mới nhất ngày 30/01/2023 đã trả lời chính xác mà không cần đưa vào câu “Let's think step by step” (hoặc ngầm định với các câu hỏi toán học?)

 Hình 7: Trả lời của ChatGPT phiên bản ngày 30/01/2023


Dựa trên mô hình “Chain of Thought” [1]:

 Hình 8: Suy luận sâu chuỗi


Để có được kết quả mong muốn từ ChatGPT, người dùng nên cân nhắc những điều sau khi đưa “lời nhắc” (prompt):

-       Cung cấp đủ ngữ cảnh: Cung cấp càng nhiều ngữ cảnh thì mô hình càng có thể hiểu những gì bạn muốn và tạo ra kết quả tốt hơn. Cung cấp lời nhắc đầy đủ hơn với nhiều ngữ cảnh hơn có thể tăng cơ hội nhận được câu trả lời mong muốn.

-       Hãy cụ thể: Nếu bạn muốn có một kết quả cụ thể, cần chỉ rõ ràng kết quả đó trong lời nhắc. Lời nhắc mơ hồ có thể dẫn đến việc hoàn thành chung chung hoặc không mong muốn.

-       Chọn lời nhắc thích hợp: Đầu ra của mô hình (câu trả lời) sẽ phụ thuộc vào dữ liệu mà mô hình đã được đào tạo từ trước (pre-trained), vì vậy hãy chọn lời nhắc phù hợp với loại văn bản mà mô hình được đào tạo.

-       Sử dụng ngôn ngữ thích hợp: Đầu ra của mô hình chỉ tốt nếu đầu vào mà mô hình nhận được cũng tốt tương đương. Sử dụng đúng ngữ pháp và tránh lỗi chính tả, vì những lỗi này có thể ảnh hưởng đến chất lượng đầu ra của mô hình.

-       Thử nghiệm với các lời nhắc khác nhau: Nếu lời nhắc đầu tiên không mang lại kết quả mong muốn, hãy thử diễn đạt lại lời nhắc đó hoặc thêm ngữ cảnh khác. Thử nghiệm có thể giúp bạn tìm lời nhắc hoạt động tốt nhất cho trường hợp sử dụng cụ thể của bạn.

Bằng cách làm theo các nguyên tắc này, người dùng có thể tăng cơ hội đạt được kết quả mong muốn từ mô hình GPT. Tuy nhiên, điều quan trọng cần lưu ý là mô hình không hoàn hảo và đầu ra của nó không phải lúc nào cũng chính xác như những gì người dùng mong đợi.

Tóm lại, ChatGPT ngày càng hoàn thiện. Nếu bạn ít sử dụng hoặc không được cập nhật thông tin mới nhất, bạn có thể có thiên kiến về ChatGPT và những nhận định trước đó vài tuần có thể không còn chính xác. Với những mô hình LLM, để thực hiện các phép tính toán học hoặc suy luận logic, bạn cần thêm vào câu nhắc tường minh “Let's think step by step” nhằm giúp cho các mô hình này suy nghĩ thận trọng hơn theo phong cách của con người.

Tham khảo

[1] Kojima, T., Gu, S. S., Reid, M., Matsuo, Y., & Iwasawa, Y. (2022). Large language models are zero-shot reasoners. arXiv preprint arXiv:2205.11916.

Đào Trung Thành

Cựu sinh viên Trường Đại học FPT kể chuyện lập nghiệp ở Nhật Bản

Nguyễn Văn Quốc Bảo hiện là Quản lý Technical Consultant và một nhánh bộ phận phát triển công ty Hybrid Technologies. Thời gian vừa học vừa làm và phát triển ngoại ngữ tại Trường Đại học FPT giúp anh mở cánh cửa xuất ngoại ngay khi tốt nghiệp.

Không sinh được con gái, bố chán nản đặt tên khiến chàng trai khốn khổ nhiều năm

Người đàn ông Bình Định tâm sự, anh từng suýt bị trầm cảm bởi cái tên oái oăm.

Nam sinh Hà Nội vượt 20km đến trường và hành trình giành Huy chương Vàng quốc tế

Quãng đường từ nhà đến trường của Tuấn Anh gần 20km. Bố mẹ không có điều kiện đưa đón nên nam sinh đi học bằng xe buýt. Hàng ngày, em rời nhà vào lúc 5h30...

Á hậu Bùi Khánh Linh lên tiếng khi bị chê tham gia show hẹn hò tìm người yêu

Á hậu 1 Hoa hậu Hoà bình Việt Nam 2023 - Bùi Khánh Linh lên tiếng khi bị cho là làm giảm giá trị của danh hiệu á hậu trong mắt công chúng vì tham gia gameshow hẹn hò.

Hồng Diễm 'lột xác' sau 'Trạm cứu hộ trái tim'

Ngay sau khi kết thúc phát sóng "Trạm cứu hộ trái tim", Hồng Diễm lột xác hoàn toàn về ngoại hình so với vai Ngân Hà tại các sự kiện.

Giảng viên bị xếp không hoàn thành nhiệm vụ vì chưa học tiến sĩ: Có phù hợp?

Một số người làm công tác giáo dục nhìn nhận chuyện xếp loại giảng viên không hoàn thành nhiệm vụ vì không đăng ký học tiến sĩ của Trường ĐH Hà Tĩnh xuất phát từ mong muốn phát triển chung, song cách làm không phù hợp.

Hoa hậu, á hậu Việt tham gia show hẹn hò và chuyện 'cọc đi tìm trâu'

Hoa hậu Đại dương Trần Thị Thu Uyên và Á hậu Hoa hậu Hoà bình Việt Nam Bùi Khánh Linh gây chú ý khi tham gia gameshow thực tế về hẹn hò "Đảo thiên đường".

Nữ sinh Hà Nội đỗ lớp 10 chuyên Toán của 4 trường chuyên

Ở mùa tuyển sinh lớp 10 năm nay, nữ sinh Đặng Diệp Chi (lớp 9A0 Trường THCS và THPT Lương Thế Vinh, Hà Nội) gây ấn tượng khi thi đỗ vào khối chuyên Toán của cả 4 trường chuyên.

Chí Trung hạnh phúc bên bạn gái kém 18 tuổi, á hậu Huyền My gợi cảm hút mắt

NSƯT Chí Trung và bạn gái Ý Lan tận hưởng hạnh phúc sau 6 năm bên nhau, á hậu Huyền My diện váy cắt xẻ khoe dáng gợi cảm.

Nữ sinh từng trượt nguyện vọng đại học nay giành học bổng toàn phần tiến sĩ

Không có bộ hồ sơ mạnh nhưng Thảo cảm thấy may mắn khi gặp được người thầy truyền cảm hứng. Nhờ thế, Thảo như được tiếp thêm động lực và giành học bổng toàn phần tới Đại học North Carolina State (Mỹ) sau một năm “gap year”.

Đang cập nhật dữ liệu !