Waymo, unit bisnis mobil otonom di bawah naungan Alphabet, telah menetapkan standar baru dalam pengembangan kecerdasan buatan (AI) yang mengutamakan keamanan di atas segalanya. Bagi perusahaan yang mengoperasikan kendaraan tanpa pengemudi di jalanan publik, sebuah proyek AI tidak dianggap matang berdasarkan performa model semata, melainkan melalui kematangan sistem evaluasinya. Hingga saat ini, Waymo telah menempuh lebih dari 220 juta mil perjalanan otonom dengan rekam jejak keselamatan yang jauh lebih unggul dibandingkan pengemudi manusia.
Manasi Joshi, Direktur Engineering untuk Sistem Intelijen dan Machine Learning Waymo, menyebut metodologi ini sebagai 'eval-centric development'. Dalam pendekatan tersebut, evaluasi bukan lagi menjadi langkah akhir sebelum peluncuran, melainkan tulang punggung dari seluruh siklus pengembangan rekayasa. Kesiapan sebuah fitur atau model baru diukur berdasarkan seberapa komprehensif metrik pengujian yang mampu mencakup berbagai skenario di dunia nyata.
Filosofi ini lahir dari kebutuhan mendesak untuk memitigasi risiko di dunia fisik. Tidak seperti AI generatif yang hanya berurusan dengan teks atau gambar, model AI Waymo harus membuat keputusan sepersekian detik di tengah lalu lintas yang tidak terprediksi. Kegagalan dalam sistem ini berarti ancaman langsung bagi nyawa manusia. Oleh karena itu, evaluasi dilakukan secara berkelanjutan, mulai dari tahap pelatihan, simulasi loop terbuka dan tertutup, hingga validasi pascapeluncuran.
Bagi perusahaan di luar sektor otomotif yang sedang mengadopsi AI, pelajaran dari Waymo sangat relevan. Banyak organisasi terjebak pada metrik performa model yang terlihat impresif di atas kertas namun gagal saat dihadapkan pada data dunia nyata yang berantakan. Tanpa sistem evaluasi yang ketat dan berkelanjutan, menempatkan sistem AI ke dalam lingkungan produksi adalah langkah yang berisiko tinggi bagi reputasi maupun keamanan operasional perusahaan.
Waymo menekankan pentingnya pengujian terhadap skenario langka dan berbahaya. Mereka menggunakan data dari log perjalanan asli serta simulasi sintetis yang mencakup miliaran mil perjalanan untuk menguji respons kendaraan terhadap pejalan kaki, zona konstruksi, hingga perlintasan kereta api. Prinsip ini dapat diadopsi oleh pengembang AI di sektor keuangan atau layanan pelanggan untuk mendeteksi potensi kerusakan legal atau keamanan sebelum terjadi.
Di Indonesia, adopsi AI di sektor korporasi sedang tumbuh pesat, namun standarisasi evaluasi masih sering terabaikan. Banyak perusahaan cenderung mengandalkan benchmark industri yang bersifat umum tanpa menyesuaikannya dengan kebutuhan bisnis yang spesifik. Padahal, seperti yang ditegaskan Joshi, kualitas pengukuran model hanya dapat dipercaya jika data evaluasi yang digunakan benar-benar representatif terhadap kondisi operasional perusahaan tersebut.
Efisiensi juga menjadi tantangan besar. Waymo berhasil menyeimbangkan kebutuhan komputasi yang masif dengan strategi 'data efficiency', yaitu memilih contoh pelatihan yang paling berharga daripada sekadar memperbanyak volume data. Hal ini krusial bagi perusahaan Indonesia yang mungkin memiliki keterbatasan sumber daya infrastruktur atau akses terhadap data berkualitas tinggi untuk melatih model AI mereka sendiri.
Selain itu, Waymo tetap mempertahankan peran manusia dalam pengambilan keputusan krusial. Meskipun AI digunakan untuk membantu insinyur dalam menganalisis data, keputusan akhir mengenai rilis perangkat lunak tetap berada di tangan pemimpin keamanan manusia. Ini membuktikan bahwa AI bukanlah pengganti tanggung jawab manusia, melainkan alat untuk mempercepat investigasi teknis yang rumit.
Ke depan, tren pengembangan AI akan semakin bergeser ke arah model yang bisa menjelaskan dirinya sendiri melalui evaluasi yang transparan. Perusahaan yang mampu membangun infrastruktur evaluasi yang efisien dan berkelanjutan akan memenangkan kepercayaan pengguna. Kepercayaan ini adalah aset paling berharga dalam era di mana teknologi otonom dan agen AI mulai mengintegrasikan diri ke dalam kehidupan sehari-hari.
Waymo membuktikan bahwa inovasi tidak berarti mengabaikan prosedur. Dengan mengintegrasikan evaluasi ke dalam setiap napas pengembangan sistem, perusahaan dapat terus mendorong batas teknologi tanpa harus mengorbankan keselamatan. Bagi pelaku industri di tanah air, ini adalah pengingat bahwa kematangan AI ditentukan oleh sejauh mana kita mampu menguji dan memahami batasan dari sistem yang kita bangun sendiri.