Ting Cai tentang pelukan Rakuten dari AI 2.0

“Tidak ada AI tanpa manusia. Tetapi manusia dengan AI dapat mencapai lebih banyak lagi. ”

Berbicara di Konferensi Teknologi Rakuten terbaru, Kepala AI & Data Officer Ting Cai berbagi visi strategis Rakuten untuk kecerdasan buatan dan membahas skala investasi industri yang belum pernah terjadi sebelumnya, yang telah mencapai ratusan miliar dolar.

Mengapa semua perusahaan ini memasukkan begitu banyak uang ke AI? Apakah mereka hanya melempar spageti ke dinding untuk melihat tongkat apa? Atau apakah mereka memasukkan uang karena tekanan kompetitif?

CAI menyoroti perubahan dinamika di dunia AI: Sementara upaya pra-2023 berpusat pada pengembangan perangkat keras, arsitektur model dan aplikasi dasar, industri ini telah memasuki “AI 2.0”-fase yang berfokus pada implementasi praktis di berbagai sektor.

“Kami benar-benar melakukan keduanya,” kata Cai, menyoroti pendekatan ganda Rakuten dalam mengembangkan model bahasa besar berpemilik sambil memanfaatkan ekosistemnya untuk aplikasi AI yang luas.

Membangun AI ke dalam fondasi

“Di Rakuten, kami senang membangun sesuatu dari bawah ke atas. Pemahaman dasar AI ini memungkinkan kita untuk memperkuat dampaknya. Itu sebabnya kami memanfaatkan data kami untuk membangun fondasi pembelajaran mendalam kami. ”

Menggunakan teknik yang disebut Embedding, Rakuten dapat memahami sifat mendasar dari setiap orang, tempat, benda dan interaksi dalam ekosistem. AI yang kuat – Yayasan Pembelajaran Mendalam Rakuten – memahami bagaimana semua hal itu berhubungan satu sama lain, memberi perusahaan wawasan unik tentang apa yang diinginkan dan dibutuhkan pelanggan. Ini juga menyediakan Data Foundation untuk membangun model bahasa, yang memungkinkan pelanggan dan mitra bisnis untuk terlibat dengan alat dan layanan AI Rakuten menggunakan bahasa alami.

Model Bahasa Besar Rakuten

Pada bulan Maret 2024, Rakuten meluncurkan Model Bahasa Besar Pertama (LLM), Rakuten AI 7B, yang diikuti hanya beberapa bulan kemudian dengan Rakuten AI 2.0, model campuran eksperta pertama perusahaan, dan Rakuten AI 2.0 Mini, sebuah kecil, sebuah kecil, dan rakuten AI 2.0 mini, sebuah kecil, sebuah kecil, dan rakuten AI 2.0 mini, A Small Model Bahasa (SLM) yang dirancang untuk penggunaan yang aman di tepi. Ketiga model dilatih secara luas tentang data dan konteks Jepang untuk menangkap nuansa linguistik, budaya, estetika, dan peraturan yang unik, dan memberikan kinerja bahasa Jepang terbaik di kelasnya saat peluncuran.

“Membangun model bahasa besar bukanlah usaha yang sepele,” kata Cai. “Dibutuhkan upaya yang signifikan untuk meningkatkan kualitas data melalui: membersihkan, memfilter, mengidentifikasi data unik, dan menghapus duplikat atau informasi yang tidak membantu. Ini juga sangat banyak tentang algoritma, model, dan tokenisasi – cara mengkode berbagai bahasa secara efisien, menciptakan arsitektur baru dan berinovasi di luar transformator. ”

Membangun model bahasa in-house adalah inti dari strategi AI Rakuten untuk memastikan bahwa tim teknik dan pelanggan bisnis memiliki alat AI yang mereka butuhkan untuk melakukan pengorbanan cerdas antara kinerja, keamanan, latensi, dan biaya.

“Saat Anda menerapkan AI di berbagai aplikasi, tidak cukup hanya menggunakan model di luar rak. Anda harus berintegrasi dengan pengetahuan perusahaan dan konteks pribadi Anda yang unik, ”kata Cai kepada hadirin. “Jadi, bagaimana Anda bisa mengintegrasikan semua pengetahuan perusahaan, preferensi pribadi Anda dan riwayat percakapan Anda ke dalam model bahasa sehingga Anda dapat mengambil informasi ini secara asli? Hanya setelah itu, saya percaya, Anda dapat membuat aplikasi yang benar -benar berguna di era AI 2.0. ”

Memanfaatkan data Rakuten untuk pencarian yang kuat

Salah satu aplikasi tersebut adalah Pencarian semantikYang menggunakan kekuatan AI untuk memahami apa arti pelanggan, bukan hanya apa yang mereka katakan. Tim CAI meluncurkan pencarian semantik ke 11 layanan Rakuten pada tahun 2024, dan teknologinya sudah memberikan hasil. Pencarian semantik mengurangi hasil “nol-hit”-pencarian tanpa hasil yang relevan-hingga 98,5%.

“Kami meluncurkan pencarian semantik tahun lalu, dan sekarang kami meluncurkannya ke semua layanan grup Rakuten. Hanya di paruh kedua tahun 2024, kami meluncurkan Semantic Search di Rakuma, Rakuten Play, dan banyak layanan lainnya, ”Cai menjelaskan. “Dengan mengurangi rasio zero-hit, kami dapat menampilkan konten yang lebih relevan. Pengguna kemudian akan lebih sering terlibat, kembali lebih sering, dan membeli lebih banyak, membantu bisnis kami tumbuh dan membawa lebih banyak nilai bagi pedagang kami. ”

Tim CAI juga meningkatkan kekuatan pembelajaran mendalam untuk memberikan rekomendasi yang lebih relevan di 7 properti Rakuten, dan memperkenalkan pengalaman iklan baru yang lebih relevan, dipersonalisasi, dan bermanfaat.

Memberdayakan bisnis, memberdayakan konsumen

“Di Rakuten, kami memiliki visi untuk menambah kreativitas manusia dengan kekuatan AI. Kita akan benar -benar memanfaatkan kekuatan kita dalam data, saluran, dan, yang paling penting, orang, organisasi dan budaya, ”kata Cai. “Ini lebih dari sekedar teknologi. Kita perlu memikirkan produk, pelaksanaan bisnis, dan efisiensi untuk memberikan manfaat nyata kepada pelanggan kita. ”

Ekosistem unik Rakuten memposisikannya untuk memberikan layanan yang dipersonalisasi di berbagai sektor.

“Ekosistem Rakuten benar -benar satu -satunya jenisnya di dunia ini. Saya belum pernah melihat portofolio produk yang begitu luas di perusahaan lain mana pun. Semangat di baliknya adalah bahwa kita berpikir tentang pelanggan kita dan tentang apa yang mereka butuhkan. Jika ada peluang bagi kami untuk menciptakan nilai baru, kami akan mengejarnya. “

Ini adalah pendekatan yang Rakuten butuhkan waktu dan waktu lagi – baru -baru ini di sektor telekomunikasi.

“Rakuten Mobile adalah contoh yang bagus di mana kami melihat peluang untuk menurunkan biaya bagi konsumen pada biaya berlangganan seluler dengan memanfaatkan teknologi terbaru dalam komputasi awan, virtualisasi, dan RAN terbuka. Sekarang, dengan AI, kami dapat menawarkan layanan yang lebih murah dan lebih baik untuk pelanggan kami. ”

Tautan ke pengalaman pelanggan yang ditingkatkan

Pada bulan November 2024, Rakuten Mobile memperkenalkan Rakuten Link AI, layanan berbasis obrolan baru yang membuat kekuatan penuh AI generatif dapat diakses oleh setiap pelanggan seluler Rakuten. Tanpa aplikasi baru untuk diunduh, tidak ada akun baru untuk dibuat, tanpa biaya berlangganan tambahan, dan tidak ada perintah rumit untuk digunakan, rakuten link adalah cara yang kuat dan mudah bagi semua orang untuk mengalami bagaimana AI generatif dapat menambah kreativitas dan produktivitas mereka.

“Kami meluncurkan Rakuten Link AI, yang menawarkan teknologi AI mutakhir untuk jutaan pengguna ponsel Rakuten,” kata Cai. “Teknologi saja tidak cukup – kita perlu membuat produk yang menyelesaikan masalah pengguna, mengembangkan model bisnis yang berkelanjutan dan membuat teknologi dapat diakses. Itulah ide di balik Rakuten Link AI: menyediakan layanan berbiaya rendah melalui inovasi AI terbaru. “

Tentu saja, visi Cai tentang pemberdayaan AI melampaui pelanggan untuk memasukkan mitra bisnis Rakuten juga.

Mengikuti keberhasilan Rakuten Link AI, Rakuten Mobile diluncurkan Rakuten AI untuk bisnis Pada bulan Januari 2025. Layanan, yang memungkinkan perusahaan di Jepang untuk memanfaatkan AI generatif, terlepas dari kemahiran teknis, menawarkan pemahaman bahasa canggih dan pemrosesan tugas untuk tugas -tugas bisnis seperti terjemahan, brainstorming dan analisis. Keuntungan utama lainnya: Menawarkan templat cepat yang memanfaatkan berbagai kasus penggunaan AI yang berhasil dari seluruh kelompok Rakuten untuk meningkatkan efisiensi dan produktivitas.

“Beberapa bulan yang lalu, kami juga meluncurkan Rakuten Analytics. Ini adalah layanan lain yang kami berikan kepada mitra bisnis kami, yang memperkaya analisis data klien dengan data ekosistem Rakuten. Dengan memanfaatkan AI untuk menganalisis data klien dan memanfaatkan kekuatan data ekosistem Rakuten, kami dapat menjelaskan data dengan cara yang intuitif dan mudah dipahami yang membantu bisnis terlibat dengan pelanggan mereka secara lebih efektif sambil meningkatkan pendapatan mereka. “

Makan makanan anjing kita sendiri

“Konsep ini benar -benar penting bagi saya: sebagai orang Rakuten, kita perlu makan makanan anjing kita sendiri. Ini berarti menggunakan perangkat lunak kami sendiri terlebih dahulu untuk memahami titik rasa sakit pengguna. Dengan melakukan ini, kita dapat secara konkret mengidentifikasi apa yang perlu ditingkatkan. “

Lebih dari 30.000 karyawan telah menggunakan AI Rakuten untuk Rakutenian di berbagai bidang, termasuk pengkodean, pembuatan gambar, pengambilan pengetahuan, terjemahan, ringkasan pertemuan dan banyak lagi. Sekarang, lebih dari 8.000 orang menggunakannya setiap hari.

“Dengan bereksperimen dengan alat -alat ini sendiri, kami tidak hanya mempelajari apa yang mungkin tetapi juga bagaimana cara memperbaiki dan memperbaikinya.” Tim juga menggunakan AI Rakuten untuk Rakutenians untuk membangun solusi rendah dan tanpa kode yang memecahkan masalah dunia nyata.

Tim periklanan Rakuten di Rakuten International, misalnya, mengakui bahwa terlalu lama untuk bermigrasi mitra dari platform iklan pesaing ke Rakuten. Menggunakan kekuatan Rakuten AI untuk Rakutenians, mereka merampingkan migrasi klien ke jaringan afiliasi Rakuten dengan membuat kode skrip yang mengurangi waktu penyelesaian sebesar 85% dan meningkatkan tingkat pertandingan sebesar 15%. Demikian pula, mereka memanfaatkan kekuatan LLMS untuk secara otomatis membuat judul yang lebih menarik dan dipersonalisasi untuk ribuan produk yang mengenai umpan pengguna.

Ai-nization adalah untuk semua orang

Cai menegaskan kembali visinya tentang manusia dan AI bekerja sama secara erat, mengungkapkan bahwa ia secara teratur mengingatkan timnya tentang pentingnya menyeimbangkan inovasi dengan hasil praktis.

“Kami bertujuan untuk memanfaatkan AI untuk menambah kreativitas manusia. Rakuten memiliki tradisi inovasi yang panjang. Bertahun -tahun yang lalu, kami mengendarai gelombang internet untuk menciptakan pasar Ichiba, menghubungkan pedagang kecil dengan pelanggan. Hari ini, kami mengendarai gelombang AI untuk menciptakan nilai lebih bagi pelanggan dan masyarakat kami. ”