Zoey Zhao pada agen AI dan pencarian kepercayaan dan kegunaan

Dalam seri ini, kami duduk bersama para pemimpin AI Rakuten untuk menyelam mendalam ke dalam cerita -cerita di balik teknologi transformatif ini dan orang -orang yang menginspirasi yang mendorong visi AI Rakuten untuk semua. Tonton wawancara ini dan lainnya di Inside Rakuten AI Series di saluran YouTube kami.

Kecerdasan buatan telah jauh dari chatbots sederhana hingga agen cerdas yang dapat mengatur alur kerja dengan banyak tugas, menafsirkan niat berdasarkan konteks, dan membentuk kembali bagaimana kita terlibat dengan ekosistem digital. Sebagai pemimpin solusi AI buatan sendiri untuk pasar Jepang, Rakuten sedang membangun platform agen AI sendiri yang tidak hanya menjawab pertanyaan tetapi memahami konteks kehidupan di Jepang dan seterusnya.

Pada 30 Juli, Rakuten mengumumkan peluncuran skala penuh Rakuten AI, platform agen AI mutakhir yang dirancang untuk meningkatkan pengalaman pengguna dan merampingkan interaksi di seluruh ekosistem Rakuten, serta memperkaya dan memberdayakan kehidupan sehari-hari.

Kami berbicara dengan Zoey Zhao, Manajer Produk Senior di Rakuten AI dan Divisi Data, yang sangat terlibat dalam pengembangan Rakuten AI. Dengan latar belakang yang unik dalam rekayasa dirgantara, minat mendalam pada pemrosesan bahasa alami (NLP), dan hasrat untuk desain yang pertama pengguna, ia menawarkan wawasan langka tentang bagaimana produk berkembang dari asisten yang membantu menjadi platform agen AI yang cerdas dan memahami untuk salah satu ekosistem paling beragam di Jepang.

https://www.youtube.com/watch?v=myqu9hjcphi

Dari drone teknik hingga membangun chatbots

Banyak profesional AI berasal dari latar belakang ilmu komputer atau ilmu data. Tapi rute Zoey menuju teknologi dimulai di langit. “Saya melakukan studi gelar sarjana dan master saya di Singapura, tetapi studi sarjana saya sebenarnya di bidang teknik kedirgantaraan. Saya memulai karir teknik saya dengan membangun drone,” katanya.

Transisi dari rekayasa dirgantara ke AI dimulai ketika dia mendapatkan pekerjaan di laboratorium penelitian yang didanai bersama oleh Nanyang Technological University dan Singtel. Di sana, dia bergabung dengan tim suara dan NLP.

“Kami sedang mengembangkan alat transkrip pintar untuk pusat panggilan. Tujuannya adalah untuk menggunakan AI untuk meringkas panggilan, tiket file otomatis, dan membuat layanan pasca panggilan lebih halus. Melihat ke belakang, ini sangat mirip dengan zoom apa, dan platform komunikasi online lainnya yang dilakukan hari ini,” kenangnya.

Tetapi lanskap linguistik dan konteks budaya Singapura yang unik menimbulkan tantangan baru bagi para peneliti muda. Mesin transkripsi AI yang dibangun untuk bahasa Inggris Amerika atau Inggris berjuang dengan varian bahasa Inggris lokal yang tunggal dan penuh dengan kata-kata dari dialek Melayu dan Cina, tata bahasa yang unik, dan pola bicara yang cepat.

“Solusi pasar dari para pemimpin global tidak memiliki keakuratan. Ditambah, datanya sensitif, jadi kami tidak bisa menggunakan opsi berbasis cloud,” katanya. “Kami tidak punya pilihan selain membangun mesin suara kami sendiri dengan model khusus.”

Pengalaman ini memberinya kursi baris depan untuk tantangan membangun teknologi dari bawah ke atas dan menggunakan AI kustom di dunia nyata, pelajaran berharga untuk karier barunya dalam manajemen produk.

Melokalisasi produk AI untuk Jepang

Pada tahun 2021, ia bergabung dengan tim inkubasi Asia Rakuten di Singapura, awalnya mengerjakan sistem rekomendasi dan pencarian visual. Tetapi minatnya pada NLP berlanjut, dan dia terlibat dengan proyek asisten AI Rakuten asli, membantu membentuknya menjadi alat multi-fungsional yang diluncurkan di seluruh ekosistem, berkembang menjadi platform agen AI Rakuten.

“Saya bergabung dengan tim asisten AI asli tahun lalu, sebelum acara Konferensi Optimisme Rakuten tahunan. Pada saat itu, kami masih memvalidasi poin rasa sakit, melakukan wawancara, dan mencoba menemukan pasar yang cocok,” kenangnya. Pada acara 2024, Zoey bergabung dengan Kepala Grup Rakuten AI & Data Officer Ting Cai di atas panggung untuk mendemonstrasikan prototipe AI yang baru dikembangkan.

Selain pasar Jepang, target pasar utama untuk Rakuten AI, demografis pengguna lain yang diidentifikasi oleh tim Zoey adalah kelompok yang sangat kurang terlayani di Jepang: pengunjung inbound dan penduduk non-Jepang.

Dia memberi contoh dari pengalamannya sendiri, “Jika Anda pergi ke pub-restoran Izakaya Jepang dan lihat menu Jepang tulisan tangan di dinding, Anda bahkan tidak tahu harus mencari apa.

Untuk menyelesaikan ini, mereka mengembangkan fitur yang menafsirkan gambar dan memberikan terjemahan atau penjelasan kontekstual tanpa mengharuskan pengguna untuk mengetik atau berbicara.

“Kami menyebutnya analisis gambar. Anda baru saja mengunggah foto, dan alat AI mencoba menafsirkan apa yang Anda butuhkan. Ini menerjemahkan teks, membaca harga, bahkan menggambarkan hidangan. Ini tidak selalu sempurna, tetapi sangat membantu, terutama untuk menu atau label produk.”

Pendekatan visual-pertama ini cocok dengan preferensi pribadi Zoey juga, “Saya orang yang sangat visual. Kadang-kadang saya hanya mengambil gambar dan meminta AI untuk membantu saya menulis judul untuk Instagram. Itulah fitur ‘Snap and Ask’ kami di Rakuten AI.”

Tetapi membangun untuk pasar domestik Jepang hadir dengan serangkaian tantangan yang sangat berbeda. Ini bukan hanya tentang terjemahan, ini tentang gaya hidup dan perilaku. Konsumen Jepang hampir tidak monolitik dalam hal adopsi teknologi. “Beberapa pengguna Jepang masih menggunakan ponsel flip. Yang lain adalah pembuat Tiktok hardcore. Beberapa tidak akan menggunakan kartu kredit, sementara yang lain hidup sepenuhnya online. Ini sangat beragam,” jelasnya.

Gerbang agen ke ekosistem rakuten

Sejak awal, Rakuten AI tidak pernah dimaksudkan untuk menjadi chatbot, melainkan tujuannya adalah untuk berkembang menjadi antarmuka pusat atau hub yang menghubungkan pengguna dengan berbagai layanan Rakuten, dari belanja online hingga buku, perjalanan dan bahkan layanan penting seperti utilitas.

Dia memberikan contoh pribadi lain, “Saya pindah dari Singapura ke Jepang baru -baru ini. Selama pindah, saya perlu menyiapkan gas, listrik, layanan internet saya dan ternyata Rakuten memiliki layanan untuk semua ini. Jadi, bayangkan jika satu platform AI dapat membantu Anda melamar semuanya melalui satu obrolan.”

Saat ini, pengguna dapat menggunakan Rakuten AI untuk rekomendasi yang dipersonalisasi dalam berbelanja, mode, musik, dan layanan e-commerce lainnya. Tetapi tujuannya jauh lebih besar: untuk menjadikan Rakuten AI gerbang utama ke seluruh ekosistem Rakuten.

“Bagi pengguna, itu harus terasa seperti satu titik masuk ke semua yang ditawarkan Rakuten. Itu kuat,” dia menekankan. “Agen tidak hanya dapat memahami dan menghubungkan Anda dengan lebih baik, tetapi mereka juga dapat mengambil tindakan untuk Anda sehingga Anda bisa mendapatkan lebih banyak dari kehidupan.”

Kontrol kualitas juga merupakan prioritas utama, dengan tim khusus memeriksa segala sesuatu mulai dari akurasi faktual hingga output yang menyinggung atau berbahaya. “Kami melakukan pengujian unit, tetapi kami juga menguji apakah jawabannya relevan, terkini dan terdengar alami. Kami memeriksa apakah saran produk cocok dengan kueri. Dan tentu saja, kami menyaksikan halusinasi dan masalah keselamatan lainnya.”

Dari asisten yang membantu hingga agen tepercaya

Melihat ke masa depan, percakapan secara alami beralih ke salah satu topik terpanas di AI hari ini: Agen. Jadi, apa yang membuat agen sangat menarik, dan bagaimana mereka berbeda dari asisten?

Sementara asisten menerima pesanan, agen mengambil tindakan, pindah dari tugas ke skenario yang berorientasi pada tujuan. Lompatan dari asisten ke agen mungkin tampak halus, tetapi membutuhkan perubahan radikal dalam arsitektur.

Zoey membagikannya tentang topik ini, “Bagi saya, agen lebih spesifik domain. Mereka memiliki keahlian yang mendalam dalam vertikal tertentu. Tetapi Anda juga memerlukan sistem yang secara cerdas dapat merutekan permintaan pengguna ke agen yang tepat.”

Lapisan perutean ini, atau apa yang oleh beberapa orang menyebut “orkestrator,” adalah kunci untuk penskalaan kegunaan tanpa mengurangi akurasi.

“Salah satu keluhan tentang asisten AI adalah bahwa mereka terlalu umum. Pakar di bidang tidak mendapatkan jawaban nyata. Dengan sistem multi-agen, setiap agen berfokus secara mendalam, dan lapisan lain memutuskan siapa yang menjawab apa.”

Tetapi dengan kompleksitas yang luar biasa muncul permintaan komputasi yang luar biasa. “Dalam tahap pengembangan, AI bisa lebih tidak dapat diprediksi. Anda mungkin mengajukan pertanyaan yang sama dua kali dan mendapatkan jawaban yang berbeda,” jelasnya. “Itu tidak seperti teknik tradisional, di mana semuanya biner. Itulah mengapa kita membutuhkan kualitas dan dukungan infrastruktur yang kuat.”

Sebagai manajer produk, Zoey tidak menganggap masalah teknis sebagai tantangan terbesar, “Ini berubah dari nol ke satu dan menemukan kasus penggunaan yang tepat yang cukup dipikirkan oleh orang dan akan digunakan secara teratur. Teknologi dapat melakukan banyak hal, tetapi Anda perlu memecahkan masalah yang nyata, berharga, dan dapat diskalakan.”

Zoey dan timnya sekarang fokus pada penskalaan penggunaan dan menyempurnakan fitur mereka berdasarkan umpan balik nyata. “Setelah kami mendapatkan lebih banyak pengguna, kami mendapatkan lebih banyak data. Dan dengan itu, kami bisa mengulang lebih baik dan lebih cepat.”

Saran untuk Wanita di Teknologi atau Pemula AI

Sebagai seorang wanita dalam pengembangan produk AI, dia sangat sadar akan representasi yang kurang dari orang -orang seperti dia di lapangan. Tapi nasihatnya membumi dengan menyegarkan: “Jangan terlalu memikirkannya. Cukup fokus untuk memecahkan masalah nyata. Sisanya akan datang. Yang Anda butuhkan hanyalah rasa ingin tahu dan laptop,” ia menekankan.

Pengalamannya sendiri dalam rekayasa dirgantara mengajarinya bagaimana teknologi tingkat permainan dan memberi semua orang kesempatan yang sama untuk berhasil.

“Ketika saya sedang membangun drone, saya harus membawa bagian -bagian mekanis dan mengebor hal -hal. Saya tidak dapat secara fisik menyelesaikan beberapa tugas sendiri. Tetapi dalam AI dan perangkat lunak, tidak ada batasan seperti itu. Ini adalah taman bermain yang sama.”

Zoey menantikan iterasi berikutnya dari Rakuten AI, “Kami mengeksplorasi pengembangan lebih banyak lagi ke arah multi-agen. Tetapi untuk saat ini, tujuan kami adalah menemukan kebutuhan yang tepat, membangun produk yang tepat dan skala.

Baik itu mengambil foto menu tulisan tangan, mengoordinasikan pakaian, merencanakan perjalanan atau menyiapkan rumah dari awal, Rakuten AI belajar dan tumbuh bersama penggunanya. Dan di belakangnya adalah manajer produk dan tim yang melakukan apa yang dimaksud dengan teknologi: memecahkan masalah nyata bagi orang sungguhan.