Google phải "nerf" nền tảng gọi điện thoại tự động bằng AI của mình vì nó quá thông minh

Nền tảng Duplex của Google đang vướng vào những thắc mắc về các vấn đề đạo đức và riêng tư khi "quá thông minh" và có thể trò chuyện qua điện thoại như một con người thực sự. Để xua tan các thắc mắc đó AI sẽ tự động xác nhận bản thân với con người ở đầu dây bên kia, Google cho hay.

Google phải nerf nền tảng gọi điện thoại tự động bằng AI của mình vì nó quá thông minh

Nền tảng Duplex của Google có thể tận dụng AI - Trí thông minh nhân tạo để mô phỏng lại không chỉ giọng nói mà cả ngữ điệu, cách nói chuyện của một con người thực thụ để thực hiện những cuộc gọi với người thật. Điều này dấy lên lo ngại về các vấn đề liên quan đến đạo đức mà nền tảng AI "quá thông minh" này có thể mắc phải. Để trấn an người dùng, Google đã cho biết hệ thống trình diễn tại Google I/O năm nay chỉ là "thử nghiệm", hệ thống sau này sẽ có một cách để thông báo tới người bên kia đầu dây rằng họ đang nói chuyện với một AI để tránh nhầm lẫn.

Đại diện Google cho biết họ hiểu và trân trọng những thảo luận xung quanh nền tảng Google Duplex còn quá mới mẻ này cũng như tôn trọng tính minh bạch trong công nghệ. Họ cũng đang thiết kế lại tính năng thông báo mình là AI vào trong các phiên bản sau này để nó thông báo tới người được gọi. Những gì chúng ta thấy ở Google I/O năm nay chỉ là thử nghiệm mà thôi, cần có những phản hồi như thế để phát triển và hoàn thiện sản phẩm hơn nữa.

Hiện Google Duplex vẫn còn là sản phẩm thử nghiệm được CEO Google Sundar Pichai giới thiệu hôm thứ 3 tuần rồi tại hội nghị Google I/O dành cho các nhà phát triển. Buổi demo đó cho người xem thấy được Google Assistant có thể "tự nhiên" đến như thế nào nhờ vào kỹ thuật WaveNet của DeepMind cũng như các công nghệ tiên tiến khác trong xử lý giọng nói tự nhiên. Ví dụ Duplex có thể dễ dàng khiến người bên kia đầu dây tưởng rằng họ đang trò chuyện với một con người thực sự chứ không phải máy móc qua các từ "uh", "um" thường gặp.

Google phải nerf nền tảng gọi điện thoại tự động bằng AI của mình vì nó quá thông minh 2

Tuy nhiên việc một phần mềm có thể lừa người thật dấy lên một làn sóng quan ngại sâu sắc trong cộng đồng công nghệ, những người còn khá sợ hãy trước công nghệ AI có thể phát triển ngoài tầm kiểm soát hoặc các quy định thông thường. Zeynep Tufekci - một nhà phê bình công nghệ gọi việc đó thật đáng sợ, Thung lũng Silicon đang mất đi các chuẩn mực đạo đức và không nhận được bài học nào cả.

Các kỹ sư của Google là Yaniv Leviathan và Yossi Matias nhấn mạnh rằng trải nghiệm của người dùng và doanh nghiệp phải thật tốt với dịch vụ này và tính minh bạch trong công nghệ là phần cốt lõi của điều đó. "Chúng tối muốn mọi việc thật rõ ràng khi AI gọi điện đến doanh nghiệp để họ hiểu thật rõ hoàn cảnh của cuộc trò chuyện". Google sẽ tiếp tục thử nghiệm để hoàn thiện Google Duplex trước khi nó được tích hợp vào Google Assistant vào mùa hè này.

Tuy nhiên Google cũng không nói rằng đây là một tính năng bắt buộc. Họ tự cảm thấy có trách nhiệm khi phải cho người ở đầu dây bên kia biết mình đang nói chuyện với ai, AI hay người thật. Google sẽ cố gắng hết sức để ngăn chặn các cuộc gọi spam hay sử dụng Duplex vào các mục đích sai trái khác.

Jelly Donuts

Tham khảo The Verge

Bài liên quan

Bài đọc nhiều nhất

Bài mới trong ngày

Brad Pitt muốn đóng vai phản diện trong phim James Bond mới của Robert Pattinson

Brad Pitt muốn đóng vai phản diện trong phim James Bond mới của Robert Pattinson

Khoa NguyenNguyễn Tiến Khoa

Brad Pitt bày tỏ sự ủng hộ với việc Robert Pattinson được chọn vào vai James Bond mới, đồng thời tiết lộ mong muốn tham gia thương hiệu điệp viên 007 trong vai phản diện. Nam diễn viên cho biết anh sẵn sàng đối đầu với Pattinson dưới sự chỉ đạo của đạo diễn Denis Villeneuve.

Phim Ảnh
GTA 6 thu về hơn 1,5 tỷ USD doanh thu đặt mua trước dù chưa chính thức phát hành

GTA 6 thu về hơn 1,5 tỷ USD doanh thu đặt mua trước dù chưa chính thức phát hành

Khoa NguyenNguyễn Tiến Khoa

Grand Theft Auto VI (GTA 6) được ước tính đã tạo ra hơn 1,5 tỷ USD doanh thu từ hoạt động đặt trước, dù người chơi vẫn chưa được trải nghiệm phiên bản hoàn chỉnh. Theo dữ liệu từ công ty nghiên cứu thị trường Sensor Tower được CNN dẫn lại, sức hút của bom tấn Rockstar Games đang vượt xa nhiều tựa game lớn từng phát hành trước đây.

Game Online
Cơn sốt "Gia đình Điệp viên" bùng nổ trở lại: "Spy x Family" chính thức công bố mùa 4 truyền hình và phần phim điện ảnh thứ hai cùng ra mắt trong năm 2027

Cơn sốt "Gia đình Điệp viên" bùng nổ trở lại: "Spy x Family" chính thức công bố mùa 4 truyền hình và phần phim điện ảnh thứ hai cùng ra mắt trong năm 2027

hoanlagvnDũng Nhỏ TT

Một thông tin chấn động vừa thổi bùng niềm hân hoan trên khắp các diễn đàn yêu thích hoạt hình Nhật Bản toàn cầu. Thương hiệu anime quốc dân "Spy x Family" (tựa Việt: Gia đình Điệp viên) mới đây đã chính thức công bố kế hoạch sản xuất đồng thời hai siêu dự án trọng điểm: mùa anime truyền hình thứ tư và một phần phim điện ảnh màn ảnh rộng hoàn toàn mới, cả hai đều được ấn định trình làng khán giả trong năm 2027.

Giải trí
Instagram thử nghiệm công cụ phát hiện video và nội dung hài bị AI sao chép

Instagram thử nghiệm công cụ phát hiện video và nội dung hài bị AI sao chép

Khoa NguyenNguyễn Tiến Khoa

Instagram đang thử nghiệm Content Protection, công cụ mới giúp nhà sáng tạo phát hiện những video bị sao chép và kiểm soát cách nội dung của họ xuất hiện trên nền tảng. Meta đồng thời phát triển công nghệ nhận diện kịch bản và câu thoại bị đánh cắp, kể cả khi người khác sử dụng AI để thay đổi hình ảnh hoặc nhân vật trong video.

Công Nghệ
Lên đầu trang