Nguồn: Thủ đô giải trí, Tác giả: Fu Mengzhen, Biên tập: James
Vài ngày trước, ai đó đã phát hiện ra rằng SparkDesk, nền tảng trải nghiệm chính thức của "Mô hình nhận thức Spark" của Xunfei, có một quy định khó hiểu trong thỏa thuận người dùng:
Theo một cuộc điều tra của Entertainment Capital, các quy tắc trải nghiệm người dùng của SparkDesk có các điều khoản với ý nghĩa liên quan. Về vấn đề này, chúng tôi đã hỏi về thỏa thuận người dùng, quy tắc kiểm tra và điều khoản quyền riêng tư của một số sản phẩm mẫu quy mô lớn ở Trung Quốc đã được thử nghiệm công khai.
Vì vậy, chúng tôi muốn nói với bạn trong bài viết này:
Những phương pháp sử dụng AI mô hình lớn mà bạn cho là hoàn toàn hợp lý có thực sự "vi phạm thỏa thuận người dùng"?
Thông tin riêng tư hoặc bí mật của bạn được nhập vào mô hình lớn sẽ được xử lý như thế nào?
Điều đó có nghĩa là gì khi bạn có nguy cơ vi phạm các điều khoản sử dụng cho các mô hình AI lớn?
Nếu không cẩn thận, bạn sẽ vi phạm thỏa thuận
Vào giữa tháng 3, Baidu Wenxin đã mở thử nghiệm sản phẩm. Vào ngày 7 tháng 4, "Tongyi Qianwen" của Ali đã bắt đầu thử nghiệm nội bộ. Vào ngày 17 tháng 4, "Tiangong" của Kunlun Wanwei đã bắt đầu thử nghiệm nội bộ. Vào ngày 24 tháng 4, HKUST News Fei "Mô hình nhận thức Xinghuo" bắt đầu thử nghiệm nội bộ.
Tất cả đều cung cấp cho người dùng một "quy tắc kiểm tra" tương đối rất ngắn để thay thế thỏa thuận người dùng dài dòng trước đây, chẳng hạn như "Quy tắc kiểm tra Wen Xin Yi Yan" và người dùng phải đọc và đồng ý với nó trước khi sử dụng.
Nói chung, các quy tắc kiểm tra này chỉ nói lên ba điều:
Vui lòng không xuất bản nội dung bất hợp pháp;
Chúng ta vẫn còn non nớt và sẽ phạm sai lầm, vui lòng không trực tiếp sử dụng kết quả được tạo ra cho những dịp nghiêm trọng;
Vui lòng cung cấp cho chúng tôi càng nhiều thông tin phản hồi càng tốt.
Tuy nhiên, Xunfei's SparkDesk cũng quy định rằng bạn không thể công khai những thứ mà nó tạo ra, kể cả giao diện của nó, dưới bất kỳ hình thức nào. Điều đó có nghĩa là, thời điểm bạn chụp ảnh màn hình với ai đó trong nhóm WeChat để thể hiện tư cách của bạn cho bài kiểm tra nội bộ, bạn đã vi phạm điều khoản của họ. Entertainment Capital Theory đã tìm thấy văn bản gốc tương ứng trong "Quy tắc trải nghiệm người dùng SparkDesk":
*Cho rằng dịch vụ SparkDesk hiện đang trong giai đoạn thử nghiệm, thông tin kỹ thuật của SparkDesk về chương trình máy tính, mã, dữ liệu kỹ thuật, hệ thống và phần mềm ứng dụng, cơ sở dữ liệu, thuật toán, giao diện tương tác (bao gồm nội dung đầu vào và đầu ra), thiết kế sản phẩm, phát hành sản phẩm và thông tin quy hoạch,… hoặc thông tin kinh doanh thuộc loại thông tin mật. *
*Bạn hiểu và đồng ý giữ bí mật các thông tin bí mật nói trên! Nếu không được phép, bạn không được tiết lộ, sử dụng hoặc cho phép người khác sử dụng thông tin bí mật nói trên dưới bất kỳ hình thức nào (bao gồm ảnh chụp màn hình, bản in, đĩa mềm, CD, đĩa cứng, email, mạng, liên lạc không dây, v.v.) hoặc gửi chúng đến các trang web, nhóm Weibo , WeChat hoặc Khoảnh khắc, tài khoản tự truyền thông và các môi trường mạng khác. *
*Nếu bạn vi phạm các nghĩa vụ bảo mật được quy định trong các quy tắc này, chúng tôi có quyền truy cứu trách nhiệm pháp lý của bạn theo luật. *
Rõ ràng, "giao diện tương tác (bao gồm nội dung đầu vào và đầu ra)" bao gồm những gì chúng ta nhập vào hộp thoại của nó khi sử dụng SparkDesk và kết quả mà nó trả về cho chúng ta. Và thường chúng ta sẽ sử dụng ảnh chụp màn hình WeChat để gửi cho bạn bè trong nhóm, đây là một động thái hoàn toàn tự nhiên.
Và nhập tên của SparkDesk, bạn sẽ thấy có rất nhiều tác giả tài khoản chính thức.Đầu tiên, bạn đã thấy phần này cấm chụp ảnh màn hình khi đăng ký.Sau khi nhấp vào đồng ý, bạn sẽ bắt đầu chụp ảnh màn hình ngay lập tức.Ngay cả khi hình mờ mang số điện thoại di động của bạn , bạn sẽ không sợ. .
Chúng tôi rất tò mò về cách những quy định như vậy, mà lẽ ra phải được dự đoán là không thể thực hiện được khi chúng được xây dựng, lại được đưa ra.
**Tôi có thể nói cho người mẫu lớn bí mật nhỏ của mình không? **
Ngoài việc lấy thông tin từ mạng công cộng, mô hình lớn còn giữ lại dữ liệu trò chuyện của người dùng và dữ liệu đó để đào tạo nên thông tin cá nhân của người dùng hay bí mật kinh doanh của doanh nghiệp cũng có nguy cơ bị lộ ra ngoài. Trước đây, bộ phận bán dẫn của Samsung Electronics đã có 3 sự cố xâm nhập các bí mật thương mại vào ChatGPT.
ChatGPT cũng đã làm rò rỉ thông tin cá nhân của một số người đăng ký ChatGPT Plus, điều này vi phạm chính sách quyền riêng tư GDPR của EU.
Vậy những người mẫu lớn trong nước sẽ nêu những thông tin gì trong thỏa thuận mà họ thu thập người dùng?
Giống như ChatGPT, v.v., các mô hình lớn AI trong nước sẽ thu thập lịch sử hỏi đáp của người dùng và mô hình. Nếu bạn nhấp vào "thích" hoặc "không thích" bên cạnh câu trả lời, những thông tin phản hồi bổ sung này cũng được thu thập.
Bộ sưu tập dữ liệu câu hỏi và câu trả lời này chủ yếu được sử dụng để tối ưu hóa sản phẩm. Tuy nhiên, Baidu Wenxin quy định rằng thông tin này cũng có thể được Baidu sử dụng cho mục đích thương mại.
"Quy tắc bảo vệ thông tin cá nhân của Wenxinyiyan (Phiên bản thử nghiệm)" đề cập:
*Sau khi chúng tôi hủy nhận dạng thông tin cá nhân thông qua các phương tiện kỹ thuật, thông tin đã hủy nhận dạng sẽ không thể xác định chủ thể. Vui lòng hiểu và đồng ý rằng trong trường hợp này, chúng tôi có quyền sử dụng thông tin đã hủy nhận dạng; với tiền đề không tiết lộ thông tin cá nhân của bạn, chúng tôi có quyền phân tích cơ sở dữ liệu của những người thử nghiệm và sử dụng nó cho mục đích thương mại. *
*Khi chúng tôi hiển thị thông tin cá nhân của bạn, chúng tôi sẽ sử dụng các phương pháp bao gồm thay thế nội dung và ẩn danh để giải mẫn cảm thông tin của bạn nhằm bảo vệ an toàn thông tin của bạn. *
Trên thực tế, Baidu đã thu thập "những bức ảnh thú vị" được tạo bởi một số người dùng sử dụng Wenxin Yiyan, chẳng hạn như "lát cắt phổi của vợ chồng" và "con cá quýt" và các bản ghi trò chuyện khác với các văn bản không liên quan, và xuất bản chúng trên tài khoản video của Baidu và các kênh quảng bá khác.
Sử dụng một mô hình lớn như một công cụ tư vấn là một trong những điều mọi người muốn làm sau khi nhận được nó. Người dùng sử dụng mô hình lớn như một cái hốc cây và giao phó mọi công việc riêng tư mờ ám của họ cho thầy tu mạng này.
Tuy nhiên, nếu nhà phát triển mô hình lớn hoặc phương tiện truyền thông tin tức sử dụng lời khuyên của bạn như một trường hợp trong đó có quá nhiều thông tin cá nhân của riêng bạn bị lẫn vào để có thể nhận ra được, thì điều này có thể gây ra cho bạn những rắc rối mới.
Khả năng này cũng ảnh hưởng đến việc sử dụng trực tiếp các phiên bản chung của các mô hình lớn này để tư vấn tâm lý, tuy nhiên phiên bản thương mại sử dụng chúng làm API có thể nhận thấy tính bảo mật của dữ liệu người dùng nên mong mọi người suy nghĩ kỹ trước khi suy nghĩ.
Một số mô hình lớn trong nước mà chúng tôi lo ngại thường đề cập rằng họ sẽ sử dụng "giải mẫn cảm" để xử lý thông tin cá nhân của mọi người, chẳng hạn như "với tiền đề rằng nó đã bị hủy nhận dạng và không thể nhận dạng lại một cá nhân cụ thể" và các cách diễn đạt khác. Nhưng nói chung, nền tảng thu thập càng ít thông tin thì càng tốt.Đây là cách bảo vệ tốt nhất cho quyền riêng tư của bạn.
Tình hình thực tế thì ngược lại: vì người dùng đang xếp hàng chờ lấy địa điểm trải nghiệm, những sản phẩm mô hình quy mô lớn này sẽ có xu hướng cung cấp cho những người dùng gửi thông tin nhận dạng chi tiết hơn khi xem xét các ứng dụng dùng thử.
Người dùng có thể đưa ra phản hồi về việc họ có hài lòng với câu trả lời do AI tạo ra hay không thông qua lượt thích và không thích. Các nhà phát triển cũng rất hy vọng rằng một số ví dụ về thế hệ xấu sẽ là ví dụ đầu tiên được phát hiện và báo cáo trong nền tảng. Tuy nhiên, điều “đáng tiếc” cho nhà phát triển là ở nhiều vấn đề kỳ quặc, người dùng không ngoan ngoãn đưa ra phản hồi nội bộ mà gửi trực tiếp lên các mạng xã hội như Xiaohongshu, Weibo.
Tại thời điểm này, chúng tôi nhận thấy rằng một số kiểu máy được đề cập trong chính sách quyền riêng tư rằng nếu cần, họ cũng sẽ biết ai là người chụp ảnh màn hình nhất định từ hồ sơ mạng xã hội của họ:
*Khi được pháp luật cho phép, chúng tôi cũng sẽ thu thập thông tin về bạn từ các nguồn công khai hoặc thương mại, bao gồm các dịch vụ mạng xã hội của bên thứ ba. *
Người dùng sử dụng mô hình lớn như một cái hốc cây và giao phó mọi công việc riêng tư mờ ám của họ cho thầy tu mạng này. Sử dụng mô hình lớn như một công cụ tư vấn tâm lý là một trong những điều mọi người thích làm sau khi nhận được nó.
Tuy nhiên, nếu nhà phát triển mô hình lớn hoặc phương tiện truyền thông đưa ra ví dụ về việc tư vấn của bạn với mô hình chứa quá nhiều thông tin cá nhân về bản thân bạn để có thể nhận dạng được, điều này có thể khiến bạn cảm thấy mất mát. .
Đây có thể là lý do tại sao một số ứng dụng vỏ GPT (một số được gọi là "AI Buddha" hay gì đó) tập trung vào tư vấn tâm lý đã bị xóa khỏi kệ. Vì vậy, tôi hy vọng mọi người hãy suy nghĩ kỹ trước khi buông tay, hoặc nếu bạn nhìn thấy ảnh chụp màn hình, đừng thừa nhận rằng đó là điều bạn đang nói, không sao cả.
Như các điều khoản của Tongyi Qianwen nói:
*Nếu bạn từ chối chúng tôi thu thập và xử lý thông tin nói trên, vui lòng nhập thông tin văn bản một cách cẩn thận. Khi bạn tham gia trải nghiệm thử nghiệm, bạn sẽ được coi là đã chấp nhận các điều khoản trên. *
**Nếu tôi vi phạm các quy tắc, hình phạt sẽ là gì? **
Như chúng ta đã biết, nội dung do AI tạo ra đã được coi là không được bảo vệ bản quyền theo phán quyết pháp lý của nhiều quốc gia trong nhiều năm, nghĩa là bất kỳ ai cũng có thể sử dụng và sửa đổi nội dung đó. Luật học ở nhiều quốc gia chủ yếu tin rằng AI không phải là con người, vì vậy nó không phải là chủ sở hữu quyền sở hữu trí tuệ.
Nhiều người dùng tự nhiên nghĩ rằng nội dung được tạo ra trên nền tảng mô hình lớn thuộc về họ hoặc có thể được truy cập và sửa đổi theo ý muốn. Tuy nhiên, các điều khoản và điều kiện của các mô hình quy mô lớn trong nước khác nhau mà chúng tôi đã kiểm tra không phải tất cả đều được quy định theo cách này.
Chúng ta đã thấy "Điều khoản bảo mật" của Xunfei Spark. Và Kunlun Wanwei Tiangong (tự xưng là "điểm kỳ dị" trong điều khoản) không cho phép người dùng sử dụng nội dung được tạo ra cho mục đích thương mại. Tất nhiên, có thể có những cân nhắc để tránh rắc rối đằng sau điều này. Rốt cuộc, bản quyền của chính bộ dữ liệu có thể cũng trở nên mơ hồ.
"Trừ khi được Singularity cho phép bằng văn bản, bạn chỉ có thể sử dụng Dịch vụ Tiangong cho mục đích phi thương mại. Bạn cam kết không sao chép, sao chép, bán hoặc bán lại bất kỳ phần nào của Dịch vụ Tiangong hoặc việc sử dụng hoặc mua Dịch vụ Tiangong hoặc để quảng cáo hoặc các mục đích thương mại khác."
Alibaba Tongyi Qianwen chỉ định nội dung thuộc về người dùng cho người dùng. Baidu Wenxin Yiyan không có quy định rõ ràng về vấn đề này, vì vậy bạn có thể tự do sử dụng chúng.
Ngược lại, OpenAI thể hiện một kiểu ấm áp đối với khách hàng: nó chuyển nhượng rõ ràng cho khách hàng tất cả các quyền, tiêu đề và sở thích đối với nội dung do người dùng tạo.
Tại thời điểm này, câu hỏi đặt ra - nếu tôi thực sự sử dụng kết quả được tạo ra của nền tảng không được phép sử dụng cho mục đích thương mại, liệu tôi có bị bắt không?
Trên thực tế, những người dùng beta nội bộ đang tích cực đăng ký để đủ điều kiện thử nghiệm các mô hình quy mô lớn trong nước, tất nhiên không phải tất cả chỉ để cho vui. Nội dung họ sản xuất phải được sử dụng trong công việc của họ càng nhiều càng tốt để thực sự nâng cao hiệu quả. Có vẻ như không hợp lý khi nền tảng cấm thương mại hóa nội dung được tạo, nhưng xét đến việc các nhà phát triển có thể có kế hoạch thương mại hóa API, nhìn chung chúng ta có thể hiểu tại sao lại có quy định như vậy.
Vấn đề duy nhất là, giống như Mita Technology: Làm thế nào "Ngữ pháp của Trung Quốc" có thể đối phó với "đòn giảm kích thước" trong kỷ nguyên GPT, như Wang Yiwei, COO của Mita Technology, đã nói với Entertainment Capital, hiện tại không có công cụ nào trong thị trường Thực sự có thể phát hiện những đoạn nào được tạo bởi AI. "Nếu một công ty nói rằng tôi sẽ đào tạo đặc biệt cho một số mô hình lớn, thì có thể phát hiện ra dấu vết sản xuất mô hình này, nhưng nếu nó có thể phát hiện ra tất cả kết quả do những mô hình lớn này tạo ra trên thị trường, thì đó là điều không thể ."
Ngoài ra, để đạt được mục tiêu truy xuất nguồn gốc càng nhiều càng tốt, các mô hình lớn trong nước này đã áp dụng phương pháp thêm hình mờ trên giao diện để lưu giữ thông tin cá nhân của người dùng. Và chúng tôi đã phát hiện ra rằng một số trình cắm của trình duyệt có thể xóa hình mờ trên giao diện của các kiểu máy lớn này một cách cụ thể.
Hiệu ứng khá hoàn hảo.
Cuối cùng, có một câu hỏi khác: Nếu bạn cảm thấy rằng có một số "điều khoản cấp trên" trong các điều khoản này hoặc lý do khác, bạn muốn hủy tài khoản của mình, điều đó có khó không?
Đối với Xunfei Xinghuo và Kunlun Wanwei Tiangong, tài khoản hoặc thẻ của hai người này sẽ không đi kèm với một số sản phẩm hoặc dịch vụ đặc biệt quan trọng nên rất tiện lợi (một số người có thể là người dùng trả phí của Xunfei Dictation, v.v., Hoặc khi sử dụng API của Xunfei, cần đặc biệt chú ý vào thời điểm này).
Tuy nhiên, nếu bạn muốn vô hiệu hóa Tongyi Qianwen, điều đó có nghĩa là xóa tài khoản Alibaba Cloud của bạn; nếu bạn muốn vô hiệu hóa Wenxinyiyan, điều đó có nghĩa là xóa tài khoản Baidu của bạn. Hai cái này rắc rối hơn nhiều.
Baidu cung cấp cho người dùng Wenxin Yiyan nhiều cách để truy cập, xử lý và yêu cầu xóa dữ liệu cá nhân mà không xóa tài khoản của họ. Nhu cầu cá nhân có thể được gửi cho họ để khiếu nại. Tuy nhiên, nó cũng đề cập rằng việc xóa các bản ghi hội thoại trên giao diện hội thoại không có nghĩa là xóa ngay bộ đệm của các bản ghi này trên máy chủ:
Khi bạn xóa thông tin khỏi dịch vụ của chúng tôi, chúng tôi có thể không xóa thông tin tương ứng khỏi hệ thống sao lưu ngay lập tức, nhưng chúng tôi sẽ xóa thông tin khi bản sao lưu được cập nhật.
Các điều khoản của Tongyi Qianwen chỉ ra rằng "bạn có thể đăng nhập vào trung tâm tài khoản và đăng ký hủy tài khoản để xóa tất cả thông tin của mình." Trung tâm tài khoản này không có trong giao diện của Tongyi Qianwen mà chỉ có thể tìm thấy trong bảng điều khiển của Alibaba Cloud.Có nghĩa là hủy tài khoản của bạn có nghĩa là hủy tài khoản Alibaba Cloud của bạn.
Nói tóm lại, trước khi các dịch vụ này có thể được tách ra khỏi các hoạt động kinh doanh khác được gắn vào tài khoản và được phép hủy riêng, bạn nên sử dụng tài khoản ít sử dụng hơn của mình để đăng ký các mô hình lớn này nếu bạn thực sự quan tâm.
Chúng ta hãy xem xét OpenAI và chúng ta sẽ thấy rằng các thuật ngữ làm sạch dữ liệu người dùng thân thiện hơn nhiều, nhưng chúng tôi cũng tìm thấy một số thuật ngữ rất kiểu Mỹ, chẳng hạn như cái gọi là "danh sách thực thể"
Viết ở cuối
Khi chúng tôi hỏi những mô hình lớn này về một số điều khoản "áp đảo" trong thỏa thuận người dùng, điều chúng tôi thực sự hỏi là, đâu là ranh giới giữa quyền và nghĩa vụ của nền tảng và người dùng?
Các nhà phát triển mô hình quy mô lớn có phạm vi thu thập dữ liệu người dùng tương đối rộng. Những dữ liệu này có thể làm cơ sở cho các mô hình lớn cải tiến sản phẩm, nhưng chúng cũng khiến người dùng chịu nhiều rủi ro. Do đó, họ rất thận trọng trong trách nhiệm hữu hạn của mình và liên tục nhắc nhở người dùng rằng, với tư cách là một chức năng thử nghiệm, mô hình lớn không chịu trách nhiệm cho bất kỳ sự cố hoặc tổn thất nào xảy ra sau khi người dùng sử dụng.
"Không có bảo mật dữ liệu 100%". AI mô hình lớn cũng giống như các sản phẩm Internet khác, tiềm ẩn rủi ro trong quá trình truyền tải, lưu trữ và xử lý dữ liệu. Điều này thậm chí không đi vào cách mà ChatGPT có khả năng bị rò rỉ học được từ kho dữ liệu đầu vào.
Mặc dù các nhà phát triển tuyên bố sẽ “giải mẫn cảm” với thông tin người dùng, nhưng người dùng vẫn nên thường xuyên kiểm tra cài đặt quyền riêng tư của họ trên các nền tảng này và chú ý kịp thời đến mọi thông báo do nền tảng đưa ra ở dạng không chắc chắn như cửa sổ bật lên và in nhỏ.
Thỏa thuận người dùng là cách phổ biến để doanh nghiệp ký kết hợp đồng với người dùng. Sau khi ký hợp đồng, người dùng không thể yêu cầu hủy hợp đồng với lý do "Tôi không đọc nó" hoặc "Tôi không biết về nó". Để bảo vệ quyền lợi hợp pháp và bảo mật thông tin cá nhân của bạn ở mức độ cao nhất, tất cả người dùng cần đọc kỹ thỏa thuận người dùng, chính sách quyền riêng tư, v.v., sau đó nhấp vào nút "Đồng ý và Tiếp tục" bắt mắt.
Yuval Harari từng nói trong cuốn "Lược sử nhân loại": "Người ta có thể hy sinh chút riêng tư để đổi lấy sự thuận tiện." Thật vậy, một trong những xu hướng phát triển của các mô hình lớn là cải thiện sự tiện lợi trong cuộc sống của con người, trong quá trình này, việc người dùng "chuyển quyền riêng tư" dường như là điều tất yếu.
Tuy nhiên, bằng cách đọc kỹ các thỏa thuận và điều khoản thường bị mọi người bỏ qua, chúng tôi cố gắng thu hút đủ sự chú ý đến một số chỗ có thể không hợp lý và do đó kêu gọi cải thiện nền tảng hơn nữa.
Chúng tôi cũng hy vọng rằng việc bảo vệ quyền và lợi ích của người dùng của các mô hình quy mô lớn trong nước có thể được đồng bộ hóa với tiến độ phát triển của các mô hình và họ có thể đưa ra lựa chọn khi thu thập thông tin người dùng, xuất phát từ lợi ích lâu dài và hành động thận trọng.
Xem bản gốc
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
Sau khi đọc các thỏa thuận người dùng của 4 mô hình lớn trong nước, tôi cảm thấy tồi tệ
Nguồn: Thủ đô giải trí, Tác giả: Fu Mengzhen, Biên tập: James
Vài ngày trước, ai đó đã phát hiện ra rằng SparkDesk, nền tảng trải nghiệm chính thức của "Mô hình nhận thức Spark" của Xunfei, có một quy định khó hiểu trong thỏa thuận người dùng:
Vì vậy, chúng tôi muốn nói với bạn trong bài viết này:
Những phương pháp sử dụng AI mô hình lớn mà bạn cho là hoàn toàn hợp lý có thực sự "vi phạm thỏa thuận người dùng"?
Thông tin riêng tư hoặc bí mật của bạn được nhập vào mô hình lớn sẽ được xử lý như thế nào?
Điều đó có nghĩa là gì khi bạn có nguy cơ vi phạm các điều khoản sử dụng cho các mô hình AI lớn?
Nếu không cẩn thận, bạn sẽ vi phạm thỏa thuận
Vào giữa tháng 3, Baidu Wenxin đã mở thử nghiệm sản phẩm. Vào ngày 7 tháng 4, "Tongyi Qianwen" của Ali đã bắt đầu thử nghiệm nội bộ. Vào ngày 17 tháng 4, "Tiangong" của Kunlun Wanwei đã bắt đầu thử nghiệm nội bộ. Vào ngày 24 tháng 4, HKUST News Fei "Mô hình nhận thức Xinghuo" bắt đầu thử nghiệm nội bộ.
Tất cả đều cung cấp cho người dùng một "quy tắc kiểm tra" tương đối rất ngắn để thay thế thỏa thuận người dùng dài dòng trước đây, chẳng hạn như "Quy tắc kiểm tra Wen Xin Yi Yan" và người dùng phải đọc và đồng ý với nó trước khi sử dụng.
Nói chung, các quy tắc kiểm tra này chỉ nói lên ba điều:
Vui lòng không xuất bản nội dung bất hợp pháp;
Chúng ta vẫn còn non nớt và sẽ phạm sai lầm, vui lòng không trực tiếp sử dụng kết quả được tạo ra cho những dịp nghiêm trọng;
Vui lòng cung cấp cho chúng tôi càng nhiều thông tin phản hồi càng tốt.
Tuy nhiên, Xunfei's SparkDesk cũng quy định rằng bạn không thể công khai những thứ mà nó tạo ra, kể cả giao diện của nó, dưới bất kỳ hình thức nào. Điều đó có nghĩa là, thời điểm bạn chụp ảnh màn hình với ai đó trong nhóm WeChat để thể hiện tư cách của bạn cho bài kiểm tra nội bộ, bạn đã vi phạm điều khoản của họ. Entertainment Capital Theory đã tìm thấy văn bản gốc tương ứng trong "Quy tắc trải nghiệm người dùng SparkDesk":
*Cho rằng dịch vụ SparkDesk hiện đang trong giai đoạn thử nghiệm, thông tin kỹ thuật của SparkDesk về chương trình máy tính, mã, dữ liệu kỹ thuật, hệ thống và phần mềm ứng dụng, cơ sở dữ liệu, thuật toán, giao diện tương tác (bao gồm nội dung đầu vào và đầu ra), thiết kế sản phẩm, phát hành sản phẩm và thông tin quy hoạch,… hoặc thông tin kinh doanh thuộc loại thông tin mật. *
*Bạn hiểu và đồng ý giữ bí mật các thông tin bí mật nói trên! Nếu không được phép, bạn không được tiết lộ, sử dụng hoặc cho phép người khác sử dụng thông tin bí mật nói trên dưới bất kỳ hình thức nào (bao gồm ảnh chụp màn hình, bản in, đĩa mềm, CD, đĩa cứng, email, mạng, liên lạc không dây, v.v.) hoặc gửi chúng đến các trang web, nhóm Weibo , WeChat hoặc Khoảnh khắc, tài khoản tự truyền thông và các môi trường mạng khác. *
*Nếu bạn vi phạm các nghĩa vụ bảo mật được quy định trong các quy tắc này, chúng tôi có quyền truy cứu trách nhiệm pháp lý của bạn theo luật. *
Rõ ràng, "giao diện tương tác (bao gồm nội dung đầu vào và đầu ra)" bao gồm những gì chúng ta nhập vào hộp thoại của nó khi sử dụng SparkDesk và kết quả mà nó trả về cho chúng ta. Và thường chúng ta sẽ sử dụng ảnh chụp màn hình WeChat để gửi cho bạn bè trong nhóm, đây là một động thái hoàn toàn tự nhiên.
Và nhập tên của SparkDesk, bạn sẽ thấy có rất nhiều tác giả tài khoản chính thức.Đầu tiên, bạn đã thấy phần này cấm chụp ảnh màn hình khi đăng ký.Sau khi nhấp vào đồng ý, bạn sẽ bắt đầu chụp ảnh màn hình ngay lập tức.Ngay cả khi hình mờ mang số điện thoại di động của bạn , bạn sẽ không sợ. . Chúng tôi rất tò mò về cách những quy định như vậy, mà lẽ ra phải được dự đoán là không thể thực hiện được khi chúng được xây dựng, lại được đưa ra.
**Tôi có thể nói cho người mẫu lớn bí mật nhỏ của mình không? **
Ngoài việc lấy thông tin từ mạng công cộng, mô hình lớn còn giữ lại dữ liệu trò chuyện của người dùng và dữ liệu đó để đào tạo nên thông tin cá nhân của người dùng hay bí mật kinh doanh của doanh nghiệp cũng có nguy cơ bị lộ ra ngoài. Trước đây, bộ phận bán dẫn của Samsung Electronics đã có 3 sự cố xâm nhập các bí mật thương mại vào ChatGPT.
ChatGPT cũng đã làm rò rỉ thông tin cá nhân của một số người đăng ký ChatGPT Plus, điều này vi phạm chính sách quyền riêng tư GDPR của EU. Vậy những người mẫu lớn trong nước sẽ nêu những thông tin gì trong thỏa thuận mà họ thu thập người dùng?
Giống như ChatGPT, v.v., các mô hình lớn AI trong nước sẽ thu thập lịch sử hỏi đáp của người dùng và mô hình. Nếu bạn nhấp vào "thích" hoặc "không thích" bên cạnh câu trả lời, những thông tin phản hồi bổ sung này cũng được thu thập.
Bộ sưu tập dữ liệu câu hỏi và câu trả lời này chủ yếu được sử dụng để tối ưu hóa sản phẩm. Tuy nhiên, Baidu Wenxin quy định rằng thông tin này cũng có thể được Baidu sử dụng cho mục đích thương mại. "Quy tắc bảo vệ thông tin cá nhân của Wenxinyiyan (Phiên bản thử nghiệm)" đề cập:
*Sau khi chúng tôi hủy nhận dạng thông tin cá nhân thông qua các phương tiện kỹ thuật, thông tin đã hủy nhận dạng sẽ không thể xác định chủ thể. Vui lòng hiểu và đồng ý rằng trong trường hợp này, chúng tôi có quyền sử dụng thông tin đã hủy nhận dạng; với tiền đề không tiết lộ thông tin cá nhân của bạn, chúng tôi có quyền phân tích cơ sở dữ liệu của những người thử nghiệm và sử dụng nó cho mục đích thương mại. *
*Khi chúng tôi hiển thị thông tin cá nhân của bạn, chúng tôi sẽ sử dụng các phương pháp bao gồm thay thế nội dung và ẩn danh để giải mẫn cảm thông tin của bạn nhằm bảo vệ an toàn thông tin của bạn. *
Trên thực tế, Baidu đã thu thập "những bức ảnh thú vị" được tạo bởi một số người dùng sử dụng Wenxin Yiyan, chẳng hạn như "lát cắt phổi của vợ chồng" và "con cá quýt" và các bản ghi trò chuyện khác với các văn bản không liên quan, và xuất bản chúng trên tài khoản video của Baidu và các kênh quảng bá khác.
Tuy nhiên, nếu nhà phát triển mô hình lớn hoặc phương tiện truyền thông tin tức sử dụng lời khuyên của bạn như một trường hợp trong đó có quá nhiều thông tin cá nhân của riêng bạn bị lẫn vào để có thể nhận ra được, thì điều này có thể gây ra cho bạn những rắc rối mới.
Khả năng này cũng ảnh hưởng đến việc sử dụng trực tiếp các phiên bản chung của các mô hình lớn này để tư vấn tâm lý, tuy nhiên phiên bản thương mại sử dụng chúng làm API có thể nhận thấy tính bảo mật của dữ liệu người dùng nên mong mọi người suy nghĩ kỹ trước khi suy nghĩ.
Một số mô hình lớn trong nước mà chúng tôi lo ngại thường đề cập rằng họ sẽ sử dụng "giải mẫn cảm" để xử lý thông tin cá nhân của mọi người, chẳng hạn như "với tiền đề rằng nó đã bị hủy nhận dạng và không thể nhận dạng lại một cá nhân cụ thể" và các cách diễn đạt khác. Nhưng nói chung, nền tảng thu thập càng ít thông tin thì càng tốt.Đây là cách bảo vệ tốt nhất cho quyền riêng tư của bạn.
Tình hình thực tế thì ngược lại: vì người dùng đang xếp hàng chờ lấy địa điểm trải nghiệm, những sản phẩm mô hình quy mô lớn này sẽ có xu hướng cung cấp cho những người dùng gửi thông tin nhận dạng chi tiết hơn khi xem xét các ứng dụng dùng thử.
Người dùng có thể đưa ra phản hồi về việc họ có hài lòng với câu trả lời do AI tạo ra hay không thông qua lượt thích và không thích. Các nhà phát triển cũng rất hy vọng rằng một số ví dụ về thế hệ xấu sẽ là ví dụ đầu tiên được phát hiện và báo cáo trong nền tảng. Tuy nhiên, điều “đáng tiếc” cho nhà phát triển là ở nhiều vấn đề kỳ quặc, người dùng không ngoan ngoãn đưa ra phản hồi nội bộ mà gửi trực tiếp lên các mạng xã hội như Xiaohongshu, Weibo.
Tại thời điểm này, chúng tôi nhận thấy rằng một số kiểu máy được đề cập trong chính sách quyền riêng tư rằng nếu cần, họ cũng sẽ biết ai là người chụp ảnh màn hình nhất định từ hồ sơ mạng xã hội của họ:
*Khi được pháp luật cho phép, chúng tôi cũng sẽ thu thập thông tin về bạn từ các nguồn công khai hoặc thương mại, bao gồm các dịch vụ mạng xã hội của bên thứ ba. *
Người dùng sử dụng mô hình lớn như một cái hốc cây và giao phó mọi công việc riêng tư mờ ám của họ cho thầy tu mạng này. Sử dụng mô hình lớn như một công cụ tư vấn tâm lý là một trong những điều mọi người thích làm sau khi nhận được nó.
Tuy nhiên, nếu nhà phát triển mô hình lớn hoặc phương tiện truyền thông đưa ra ví dụ về việc tư vấn của bạn với mô hình chứa quá nhiều thông tin cá nhân về bản thân bạn để có thể nhận dạng được, điều này có thể khiến bạn cảm thấy mất mát. .
Đây có thể là lý do tại sao một số ứng dụng vỏ GPT (một số được gọi là "AI Buddha" hay gì đó) tập trung vào tư vấn tâm lý đã bị xóa khỏi kệ. Vì vậy, tôi hy vọng mọi người hãy suy nghĩ kỹ trước khi buông tay, hoặc nếu bạn nhìn thấy ảnh chụp màn hình, đừng thừa nhận rằng đó là điều bạn đang nói, không sao cả.
Như các điều khoản của Tongyi Qianwen nói:
*Nếu bạn từ chối chúng tôi thu thập và xử lý thông tin nói trên, vui lòng nhập thông tin văn bản một cách cẩn thận. Khi bạn tham gia trải nghiệm thử nghiệm, bạn sẽ được coi là đã chấp nhận các điều khoản trên. *
**Nếu tôi vi phạm các quy tắc, hình phạt sẽ là gì? **
Như chúng ta đã biết, nội dung do AI tạo ra đã được coi là không được bảo vệ bản quyền theo phán quyết pháp lý của nhiều quốc gia trong nhiều năm, nghĩa là bất kỳ ai cũng có thể sử dụng và sửa đổi nội dung đó. Luật học ở nhiều quốc gia chủ yếu tin rằng AI không phải là con người, vì vậy nó không phải là chủ sở hữu quyền sở hữu trí tuệ.
Nhiều người dùng tự nhiên nghĩ rằng nội dung được tạo ra trên nền tảng mô hình lớn thuộc về họ hoặc có thể được truy cập và sửa đổi theo ý muốn. Tuy nhiên, các điều khoản và điều kiện của các mô hình quy mô lớn trong nước khác nhau mà chúng tôi đã kiểm tra không phải tất cả đều được quy định theo cách này.
Chúng ta đã thấy "Điều khoản bảo mật" của Xunfei Spark. Và Kunlun Wanwei Tiangong (tự xưng là "điểm kỳ dị" trong điều khoản) không cho phép người dùng sử dụng nội dung được tạo ra cho mục đích thương mại. Tất nhiên, có thể có những cân nhắc để tránh rắc rối đằng sau điều này. Rốt cuộc, bản quyền của chính bộ dữ liệu có thể cũng trở nên mơ hồ.
"Trừ khi được Singularity cho phép bằng văn bản, bạn chỉ có thể sử dụng Dịch vụ Tiangong cho mục đích phi thương mại. Bạn cam kết không sao chép, sao chép, bán hoặc bán lại bất kỳ phần nào của Dịch vụ Tiangong hoặc việc sử dụng hoặc mua Dịch vụ Tiangong hoặc để quảng cáo hoặc các mục đích thương mại khác."
Alibaba Tongyi Qianwen chỉ định nội dung thuộc về người dùng cho người dùng. Baidu Wenxin Yiyan không có quy định rõ ràng về vấn đề này, vì vậy bạn có thể tự do sử dụng chúng.
Ngược lại, OpenAI thể hiện một kiểu ấm áp đối với khách hàng: nó chuyển nhượng rõ ràng cho khách hàng tất cả các quyền, tiêu đề và sở thích đối với nội dung do người dùng tạo.
Trên thực tế, những người dùng beta nội bộ đang tích cực đăng ký để đủ điều kiện thử nghiệm các mô hình quy mô lớn trong nước, tất nhiên không phải tất cả chỉ để cho vui. Nội dung họ sản xuất phải được sử dụng trong công việc của họ càng nhiều càng tốt để thực sự nâng cao hiệu quả. Có vẻ như không hợp lý khi nền tảng cấm thương mại hóa nội dung được tạo, nhưng xét đến việc các nhà phát triển có thể có kế hoạch thương mại hóa API, nhìn chung chúng ta có thể hiểu tại sao lại có quy định như vậy.
Vấn đề duy nhất là, giống như Mita Technology: Làm thế nào "Ngữ pháp của Trung Quốc" có thể đối phó với "đòn giảm kích thước" trong kỷ nguyên GPT, như Wang Yiwei, COO của Mita Technology, đã nói với Entertainment Capital, hiện tại không có công cụ nào trong thị trường Thực sự có thể phát hiện những đoạn nào được tạo bởi AI. "Nếu một công ty nói rằng tôi sẽ đào tạo đặc biệt cho một số mô hình lớn, thì có thể phát hiện ra dấu vết sản xuất mô hình này, nhưng nếu nó có thể phát hiện ra tất cả kết quả do những mô hình lớn này tạo ra trên thị trường, thì đó là điều không thể ."
Ngoài ra, để đạt được mục tiêu truy xuất nguồn gốc càng nhiều càng tốt, các mô hình lớn trong nước này đã áp dụng phương pháp thêm hình mờ trên giao diện để lưu giữ thông tin cá nhân của người dùng. Và chúng tôi đã phát hiện ra rằng một số trình cắm của trình duyệt có thể xóa hình mờ trên giao diện của các kiểu máy lớn này một cách cụ thể.
Cuối cùng, có một câu hỏi khác: Nếu bạn cảm thấy rằng có một số "điều khoản cấp trên" trong các điều khoản này hoặc lý do khác, bạn muốn hủy tài khoản của mình, điều đó có khó không?
Đối với Xunfei Xinghuo và Kunlun Wanwei Tiangong, tài khoản hoặc thẻ của hai người này sẽ không đi kèm với một số sản phẩm hoặc dịch vụ đặc biệt quan trọng nên rất tiện lợi (một số người có thể là người dùng trả phí của Xunfei Dictation, v.v., Hoặc khi sử dụng API của Xunfei, cần đặc biệt chú ý vào thời điểm này).
Tuy nhiên, nếu bạn muốn vô hiệu hóa Tongyi Qianwen, điều đó có nghĩa là xóa tài khoản Alibaba Cloud của bạn; nếu bạn muốn vô hiệu hóa Wenxinyiyan, điều đó có nghĩa là xóa tài khoản Baidu của bạn. Hai cái này rắc rối hơn nhiều.
Baidu cung cấp cho người dùng Wenxin Yiyan nhiều cách để truy cập, xử lý và yêu cầu xóa dữ liệu cá nhân mà không xóa tài khoản của họ. Nhu cầu cá nhân có thể được gửi cho họ để khiếu nại. Tuy nhiên, nó cũng đề cập rằng việc xóa các bản ghi hội thoại trên giao diện hội thoại không có nghĩa là xóa ngay bộ đệm của các bản ghi này trên máy chủ:
Khi bạn xóa thông tin khỏi dịch vụ của chúng tôi, chúng tôi có thể không xóa thông tin tương ứng khỏi hệ thống sao lưu ngay lập tức, nhưng chúng tôi sẽ xóa thông tin khi bản sao lưu được cập nhật.
Các điều khoản của Tongyi Qianwen chỉ ra rằng "bạn có thể đăng nhập vào trung tâm tài khoản và đăng ký hủy tài khoản để xóa tất cả thông tin của mình." Trung tâm tài khoản này không có trong giao diện của Tongyi Qianwen mà chỉ có thể tìm thấy trong bảng điều khiển của Alibaba Cloud.Có nghĩa là hủy tài khoản của bạn có nghĩa là hủy tài khoản Alibaba Cloud của bạn.
Nói tóm lại, trước khi các dịch vụ này có thể được tách ra khỏi các hoạt động kinh doanh khác được gắn vào tài khoản và được phép hủy riêng, bạn nên sử dụng tài khoản ít sử dụng hơn của mình để đăng ký các mô hình lớn này nếu bạn thực sự quan tâm.
Chúng ta hãy xem xét OpenAI và chúng ta sẽ thấy rằng các thuật ngữ làm sạch dữ liệu người dùng thân thiện hơn nhiều, nhưng chúng tôi cũng tìm thấy một số thuật ngữ rất kiểu Mỹ, chẳng hạn như cái gọi là "danh sách thực thể"
Viết ở cuối
Khi chúng tôi hỏi những mô hình lớn này về một số điều khoản "áp đảo" trong thỏa thuận người dùng, điều chúng tôi thực sự hỏi là, đâu là ranh giới giữa quyền và nghĩa vụ của nền tảng và người dùng?
Các nhà phát triển mô hình quy mô lớn có phạm vi thu thập dữ liệu người dùng tương đối rộng. Những dữ liệu này có thể làm cơ sở cho các mô hình lớn cải tiến sản phẩm, nhưng chúng cũng khiến người dùng chịu nhiều rủi ro. Do đó, họ rất thận trọng trong trách nhiệm hữu hạn của mình và liên tục nhắc nhở người dùng rằng, với tư cách là một chức năng thử nghiệm, mô hình lớn không chịu trách nhiệm cho bất kỳ sự cố hoặc tổn thất nào xảy ra sau khi người dùng sử dụng.
"Không có bảo mật dữ liệu 100%". AI mô hình lớn cũng giống như các sản phẩm Internet khác, tiềm ẩn rủi ro trong quá trình truyền tải, lưu trữ và xử lý dữ liệu. Điều này thậm chí không đi vào cách mà ChatGPT có khả năng bị rò rỉ học được từ kho dữ liệu đầu vào.
Mặc dù các nhà phát triển tuyên bố sẽ “giải mẫn cảm” với thông tin người dùng, nhưng người dùng vẫn nên thường xuyên kiểm tra cài đặt quyền riêng tư của họ trên các nền tảng này và chú ý kịp thời đến mọi thông báo do nền tảng đưa ra ở dạng không chắc chắn như cửa sổ bật lên và in nhỏ.
Thỏa thuận người dùng là cách phổ biến để doanh nghiệp ký kết hợp đồng với người dùng. Sau khi ký hợp đồng, người dùng không thể yêu cầu hủy hợp đồng với lý do "Tôi không đọc nó" hoặc "Tôi không biết về nó". Để bảo vệ quyền lợi hợp pháp và bảo mật thông tin cá nhân của bạn ở mức độ cao nhất, tất cả người dùng cần đọc kỹ thỏa thuận người dùng, chính sách quyền riêng tư, v.v., sau đó nhấp vào nút "Đồng ý và Tiếp tục" bắt mắt.
Yuval Harari từng nói trong cuốn "Lược sử nhân loại": "Người ta có thể hy sinh chút riêng tư để đổi lấy sự thuận tiện." Thật vậy, một trong những xu hướng phát triển của các mô hình lớn là cải thiện sự tiện lợi trong cuộc sống của con người, trong quá trình này, việc người dùng "chuyển quyền riêng tư" dường như là điều tất yếu.
Tuy nhiên, bằng cách đọc kỹ các thỏa thuận và điều khoản thường bị mọi người bỏ qua, chúng tôi cố gắng thu hút đủ sự chú ý đến một số chỗ có thể không hợp lý và do đó kêu gọi cải thiện nền tảng hơn nữa.
Chúng tôi cũng hy vọng rằng việc bảo vệ quyền và lợi ích của người dùng của các mô hình quy mô lớn trong nước có thể được đồng bộ hóa với tiến độ phát triển của các mô hình và họ có thể đưa ra lựa chọn khi thu thập thông tin người dùng, xuất phát từ lợi ích lâu dài và hành động thận trọng.