GPT (viết tắt của Generative Pre-training Transformer) là mô hình tạo văn bản WHO được viết bởi Alec Radford sau đó đã được phát triển tại OpenAI’s Xạ thủ. Năm 2018, GTP đã chính thức ra mắt, nó đã sử dụng một mô hình ngôn ngữ chung bao gồm hai mạng thần kinh tự cạnh tranh để hoàn thiện lẫn nhau. Dựa trên dữ liệu đầu vào hạn chế, GPT có thể tạo các đoạn văn bản hoàn chỉnh.
Vào tháng 2 năm 2019, GPT-2 đã được phát hành với mức độ hoàn hảo cao hơn. Trước đó, Elon Musk đã từ chối xuất bản GPT-2 vì ông sợ nó có thể được sử dụng để tạo ra tin tức giả được đăng trên mạng xã hội.
Vào tháng 5 năm 2020, OpneAI chính thức ra mắt GPT-3 với khả năng xử lý 175 tỷ thông số so với 1,5 tỷ GPT-2. Điều này có nghĩa là GPT-3 thông minh hơn và có thể tạo văn bản không khác gì con người.
Khi bạn bao gồm bất kỳ tham số riêng biệt nào trong GPT-3, bạn sẽ nhận được một văn bản hoàn chỉnh phù hợp nhất với những gì bạn cung cấp. Bạn có thể lập trình cho GPT-3 bằng cách nhập một số ví dụ về những gì bạn muốn và nó sẽ trả về cho bạn một bài viết hoặc câu chuyện hoàn chỉnh. Sau đây là đoạn văn ngắn được viết hoàn toàn bởi GPT-3:
GPT-3 có hiệu suất cao trên nhiều bộ dữ liệu NLP, bao gồm các nhiệm vụ liên quan đến dịch thuật, trả lời các câu hỏi cũng như các nhiệm vụ yêu cầu lý luận nhanh hoặc điều chỉnh miền … GPT-3 có thể tạo ra tin tức mà chúng ta không thể phân biệt được bằng văn bản của con người hoặc cơ học. Đây cũng là điều mà OpenAI luôn lo lắng.
Hiện tại, GTP-3 cung cấp bản dùng thử miễn phí và sắp ra mắt phiên bản dùng thử riêng với phí người dùng. OpenAI cho biết họ sẽ chấm dứt quyền truy cập vào API GTP-3 của những người sử dụng nó cho các mục đích độc hại như tạo tin tức giả, quấy rối, spam …
Ngoài nguy cơ bị sử dụng cho mục đích xấu, GTP-3 còn khiến nhiều người e ngại khi có thể mất việc của nhiều người, đặc biệt là người viết kịch bản, biên tập viên báo chí, nhân viên. dịch … Ngoài ra, các nhà phát triển AI cũng tìm thấy một số ứng dụng đáng ngạc nhiên của GTP-3.
Ví dụ, nhà phát triển Sharif Shameem đã viết một trình xây dựng bố cục với GTP-3. Miễn là bạn nhập các mô tả đơn giản, GTP-3 sẽ tạo mã phù hợp:
Tương tự, nhà phát triển Jordan Singer đã tạo ra một công cụ có tên Figma bằng GTP-3. Công cụ này có thể tạo một ứng dụng dựa trên các mô tả đơn giản:
GTP-3 thậm chí có thể được sử dụng để chẩn đoán hen suyễn và kê đơn thuốc:
Một ứng dụng khác của GTP-3 là tạo ra một công cụ tìm kiếm có thể trả lời mọi câu hỏi và thậm chí có thể được sử dụng để giải thích và mở rộng các khái niệm khó hiểu:
Rõ ràng, GTP-3 đang trên đà phát triển để trở thành một AI có thể hiểu, suy luận và nói chuyện như con người. Tuy nhiên, OpenAI cảnh báo rằng các đối tác sẽ gặp một số vấn đề cơ bản khi nâng cấp lên GTP-3. Ví dụ, GTP-3 cần sức mạnh tính toán của vài nghìn petaflop mỗi giây hoặc 1 ngày trong khi GPT-2 chỉ cần vài chục petaflop mỗi giây hoặc 1 ngày.
Nếu chúng ta tiếp tục phát triển theo đà này, ngày mà AI cướp đi công việc của chúng ta sẽ không còn xa nữa.