Ting Cai tentang inovasi dan tanggung jawab AI

Dalam seri ini, kami duduk bersama para pemimpin Rakuten AI untuk mendalami kisah di balik teknologi transformatif ini dan individu-individu inspiratif yang mendorong visi Rakuten tentang AI untuk semua.

Diperkirakan AI akan menyumbang hampir 20 triliun dolar AS terhadap perekonomian global hingga tahun 2030, yang merupakan 3,5% PDB seluruh dunia, menurut laporan IDC tahun 2024. Ketika teknologi baru yang menarik ini mulai diterapkan ke lebih banyak sektor masyarakat, menjanjikan manfaat yang mengubah keadaan baik bagi perusahaan maupun pengguna akhir, ekspektasi terhadap potensinya semakin tinggi. Namun kegembiraan ini juga disertai dengan beberapa kekhawatiran.

Dalam Survei Privasi Konsumen Cisco 2024, meskipun 63% responden setuju bahwa AI dapat berguna dalam meningkatkan kehidupan kita, 78% percaya bahwa organisasi memiliki tanggung jawab untuk hanya menggunakan AI dengan cara yang etis.

Sebagai arsitek strategi, pengembangan, dan penerapan global AI Rakuten, Chief AI & Data Officer Rakuten Group, Ting Cai, memiliki misi untuk membangun prinsip dan praktik dasar yang dapat memandu masyarakat menuju masa depan yang lebih baik – masa depan di mana alat AI dapat meningkatkan kemampuan dan pemberdayaan manusia. industri, sambil menghindari konsekuensi yang tidak diinginkan.

Dari visi hingga tindakan dalam lanskap yang mengutamakan AI

“AI Generatif adalah teknologi yang sangat transformatif sehingga akan memicu perubahan besar, seperti Revolusi Industri, yang secara mendasar mengubah cara kita melakukan sesuatu,” kata Cai. “Kami ingin berbagi potensi AI yang luar biasa dengan pelanggan dan mitra bisnis kami, sehingga mereka dapat memperoleh manfaat dari revolusi teknologi ini.”

“Integritas adalah prioritas nomor satu. Pengguna harus mempercayai layanan kami.”

Ting Cai, Kepala AI & Pejabat Data Grup Rakuten

Dengan janji AI untuk membuka nilai dan peluang baru, kebutuhan perusahaan untuk memiliki strategi AI yang bertanggung jawab menjadi semakin penting saat ini dibandingkan sebelumnya. Survei McKinsey baru-baru ini terhadap lebih dari 100 organisasi dengan pendapatan tahunan lebih dari 50 juta dolar AS menemukan bahwa meskipun 63% responden menganggap penerapan AI generatif adalah prioritas tinggi atau sangat tinggi, 91% merasa tidak siap untuk melakukannya di masa depan. cara yang bertanggung jawab. Rakuten, bagaimanapun, menangani kedua bagian tersebut dengan prioritas yang sama.

Menerapkan pemikiran “prinsip pertama” pada pengembangan AI

Saat menyusun strategi AI Rakuten, Cai menerapkan pemikiran prinsip pertama, yaitu pendekatan pemecahan masalah yang melibatkan pemecahan masalah kompleks menjadi komponen paling mendasar. Hasilnya adalah Rakuten AI Foundation, rangkaian tiga blok bangunan yang menjadi landasan seluruh pengembangan AI.

“Perjalanan AI kami benar-benar dimulai dengan pembelajaran mendalam karena ini merupakan teknologi dasar yang mendasar dan umum yang dapat diterapkan pada berbagai layanan. Pada gelombang pertama, kami berfokus pada membangun landasan pembelajaran mendalam dan penerapannya seperti penelusuran, karena bahkan model bahasa besar (LLM) pun memerlukan pengambilan augmented generasi (RAG) untuk terhubung dengan data waktu nyata seperti informasi harga dan inventaris,” dia berbagi.

“Kami transparan mengenai data apa yang kami kumpulkan – dan memudahkan pengguna untuk mengontrol apa yang mereka bagikan dan memahami manfaat apa yang diberikannya kepada mereka.”

“Sementara itu, kami membuat penyematan untuk orang, tempat, dan benda, misalnya untuk semua produk Rakuten Ichiba, dan memanfaatkannya untuk menghubungkan produk dan layanan dengan pengguna di seluruh Ekosistem Rakuten dengan cara yang lebih terperinci dan bermakna. Dengan landasan yang kuat ini, kami dengan cepat meningkatkan layanan kami hingga kini mencakup penelusuran semantik di sembilan layanan dan rekomendasi semantik di enam aplikasi, dengan rencana untuk lebih berintegrasi ke dalam bisnis periklanan kami,” tambahnya.

Membuat roda gila yang sempurna untuk eksekusi manusia + AI

“Pendekatan kami terhadap eksekusi adalah menciptakan roda gila dinamis yang memberdayakan AI dan kecerdasan manusia untuk bekerja secara sinergis.”

Cai menggambarkan gelombang kedua pengembangan AI sebagai Rakuten AI for Business di mana Rakuten dapat memanfaatkan keahlian domainnya di banyak industri. “Pendekatan eksekusi kami adalah menciptakan roda gila dinamis yang memberdayakan AI dan kecerdasan manusia untuk bekerja secara sinergis. Setiap interaksi dalam ekosistem kami dimulai dengan AI dan ditinjau oleh pakar domain yang membantu melatih, mengevaluasi, dan menetapkan batasan penting untuk model AI kami. Terakhir, kami melakukan validasi dengan pelanggan dan mendapatkan masukan yang diperlukan untuk meningkatkan keseluruhan pengalaman. Putaran umpan balik ini, yang diperkaya oleh triliunan interaksi pelanggan, memberdayakan AI dan karyawan kami di tim e-commerce, perjalanan, keuangan, dan rekayasa perangkat lunak.”

Konsep roda gila ini luas dan dapat diterapkan pada domain tertentu. Misalnya, dalam dukungan pelanggan:

• Chatbot AI menangani pertanyaan dengan pemantauan manusia
• Ketika agen manusia turun tangan, AI membantu dengan memberikan riwayat percakapan dan mencari di internet serta kumpulan data untuk informasi yang relevan, sehingga memungkinkan agen untuk melanjutkan dialog dengan lancar.
• Hal ini mengurangi waktu yang dihabiskan untuk memahami interaksi sebelumnya dan meningkatkan efisiensi dan UX
• Setiap interaksi antara AI dan pelanggan berkontribusi pada pedoman layanan, menjadikan intervensi manusia di masa depan menjadi lebih efektif

Cai yakin gelombang ketiga aplikasi konsumen yang didukung AI akan menjadi evolusi alami dari penawaran ekosistem unik Rakuten. “Strategi kami adalah menanamkan teknologi AI terbaru langsung ke dalam aplikasi yang sudah ada, seperti Rakuten Link AI, sehingga semua pengguna dapat memperoleh manfaat darinya dengan hambatan masuk yang rendah dan tingkat keamanan tertinggi.”

Menetapkan tata kelola dan kerangka kerja AI yang bertanggung jawab

Strategi dasar Rakuten untuk AI yang bertanggung jawab adalah dengan membangun etika dan keselamatan dalam segala hal yang dilakukan perusahaan, pada setiap tahap desain, pengembangan, dan penerapan. Komitmen ini diwujudkan dalam Kode Etik AI, pedoman perusahaan untuk membangun AI yang bermanfaat bagi semua orang.

Pendekatan Rakuten dalam mengelola dan mengawasi AI melibatkan program lintas fungsi berikut:

1. tata kelola AI
2. Penelitian dan Pengembangan AI
3. Keamanan & keselamatan AI
4. Hubungan masyarakat & kebijakan publik
5. Pemanfaatan data

Untuk memastikan pengawasan yang jelas, hasil diskusi terkait AI, termasuk proposal dan keputusan penting, dilaporkan dan dibahas di Komite AI & Data. Tergantung pada sifat masalahnya, pembahasan lebih lanjut dapat dilakukan pada Rapat Dewan Direksi dan Manajemen Perusahaan untuk memastikan transparansi dan akuntabilitas tata kelola AI Rakuten.

Selain tata kelola internal, Rakuten adalah anggota AI Governance Association, yang didirikan pada Oktober 2024 oleh perusahaan-perusahaan terkemuka yang berbasis di Jepang dengan misi memaksimalkan nilai AI melalui manajemen risiko yang tepat dan penetapan norma tata kelola AI.

“Tim Merah Rakuten menerapkan ‘peretasan etis’, yang secara proaktif melakukan simulasi serangan dan menguji sistem AI dengan skenario yang menantang untuk mengungkap kerentanan, bias, dan masalah etika. Pengujian dan pemantauan yang ketat ini memastikan keamanan AI 24/7.”

Sebagai pelopor AI yang bertanggung jawab, Cai adalah arsitek utama dan pendorong Kode Etik AI Rakuten yang dirilis pada Juli 2024 sebagai kerangka kerja untuk membangun AI yang bertanggung jawab. Pertimbangan utama meliputi:

• Bagaimana memastikan keamanan pelanggan saat menggunakan AI
• Bagaimana mencegah konten berbahaya dihasilkan oleh AI
• Bagaimana mendeteksi bias agar rekomendasi AI adil

“Integritas adalah prioritas nomor satu bagi kami. Tanpa kepercayaan, tidak ada yang akan menggunakan layanan kami,” tegas Cai. “Kami membangun kepercayaan melalui transparansi, terutama dalam cara kami mengumpulkan dan menggunakan data pelanggan, memperjelas bahwa semua data digunakan dengan persetujuan untuk memberikan lebih banyak manfaat kepada pengguna.”

Membangun dan mengoperasikan AI dengan aman

Membangun dan mengoperasikan teknologi baru seperti AI juga menghadirkan serangkaian tantangan unik dan ancaman baru yang harus dicegah atau dikurangi oleh tim Cai, termasuk injeksi cepat, penyimpangan data, dan penyimpangan model.

“Sistem AI tidak hanya melalui persetujuan satu kali saja; kita harus terus memastikan bahwa penggunaan yang berkelanjutan mematuhi kebijakan dan standar.”

“Saya yakin bisnis mana pun harus memperhatikan keamanan dengan serius saat meluncurkan produk. Kami menangani manajemen risiko dan keamanan AI dengan cara yang mirip dengan keamanan siber. Dalam produksi, selalu ada risiko serangan keamanan ketika peretas mencoba mencuri data, algoritme, atau kode. Beberapa orang bahkan mungkin mencoba mengelabui model AI untuk menghasilkan konten berbahaya. Jadi, kita harus tetap waspada untuk mendeteksi adanya ancaman berbahaya dalam desain dan produksi,” ujarnya.

Tim Merah Rakuten menerapkan “peretasan etis”, yang secara proaktif melakukan simulasi serangan dan menguji sistem AI dengan skenario yang menantang untuk mengungkap kerentanan, bias, dan masalah etika. Pengujian dan pemantauan yang ketat ini memastikan keamanan AI 24/7.

Meluncurkan AI di seluruh organisasi memerlukan kepemimpinan untuk menetapkan peta jalan dan praktik terbaik. “Pertama, penting untuk mendapatkan inventaris terkini untuk seluruh perusahaan. Kami memerlukan visibilitas mengenai alat AI internal dan pihak ketiga yang digunakan dan potensi risiko hak cipta atau privasi,” kata Cai.

Cai menekankan bahwa manusia adalah kunci dalam pembangunan dan implementasi, “Di luar kebijakan yang terdokumentasi, kita harus memiliki peran dan tanggung jawab yang jelas, akses yang aman terhadap data untuk semua, dan keselamatan AI yang tertanam dalam teknik dan sistem. Sistem AI tidak hanya melalui persetujuan satu kali saja; kita harus terus memastikan bahwa penggunaan yang berkelanjutan mematuhi kebijakan dan standar.”

Menjadikan AI sebagai budaya, bukan sekadar teknologi

AI yang bertanggung jawab dari Rakuten adalah komitmen untuk membangun sistem AI yang menjunjung tinggi nilai-nilai inti perusahaan, melindungi hak asasi manusia, dan menjaga privasi pengguna. Dengan tetap setia pada Kode Etik AI Rakuten yang kuat, Cai dan timnya dengan percaya diri merintis jalan sambil menghadapi risiko dan memastikan bahwa setiap kemajuan AI mendorong perusahaan menuju masa depan di mana teknologi memberdayakan, menghormati, dan meningkatkan pengalaman pengguna.