Peneliti dari Peking University, Zhongguancun Academy, dan Institute for Advanced Algorithms Research Shanghai memperkenalkan DataFlow-Harness, framework open-source yang dirancang untuk mengatasi keterbatasan fundamental agen pengkodean AI saat membangun pipeline data skala produksi. Framework ini mengubah cara agen besar berinteraksi dengan platform data: bukan menghasilkan skrip Python sekali pakai, melainkan membangun grafik alur kerja terarah (DAG) yang persisten, teraudit, dan terintegrasi dengan operator platform yang nyata.
Hasil eksperimen menunjukkan DataFlow-Harness mencapai tingkat kelulusan end-to-end sebesar 93,3 persen pada benchmark rekayasa data 12 tugas. Dibandingkan dengan Claude Code standar, framework ini mengurangi biaya API hingga 72,5 persen dan latensi respons 49,9 persen, sambil mempertahankan tingkat keberhasilan yang setara dengan agen yang diberi akses penuh ke basis kode untuk menulis skrip bebas.
Latar belakang masalah ini terletak pada kesenjangan yang disebut peneliti sebagai "NL2Pipeline gap". Agen AI modern memang mampu menulis skrip Python yang plausibel dalam hitungan detik untuk tugas tunggal, seperti mem-parsing berkas JSON. Namun, ketika diminta membangun pipeline sistematis — mengingest ribuan dokumen berantakan, memotong teks, menilai kualitas, dan menyaring noise untuk sistem Retrieval-Augmented Generation (RAG) — agen tersebut sering gagal karena bergantung pada dependensi yang dihalusinasi, operator yang tidak tersedia, atau asumsi platform usang.
Runming He, penulis pertama makalah DataFlow-Harness, menjelaskan bahwa tantangan utama bukanlah menulis kode Python, melainkan meyakinkan skrip tersebut berjalan di platform produksi yang hidup. Hal ini mencakup penggunaan operator yang benar-benar terpasang, pencocokan skema dataset nyata, rujukan ke dataset dan layanan model terdaftar, serta pelestarian dependensi antar tahap. Skrip bebas yang dihasilkan agen umumnya sulit diaudit atau diedit secara visual melalui alat manajemen alur kerja standar MLOps.
Arsitektur DataFlow-Harness mengatur empat komponen inti yang bekerja sama. Data Pipeline Backend bertindak sebagai sumber kebenaran tunggal, merepresentasikan pipeline sebagai DAG terstruktur yang berisi sumber data, modul pemrosesan bawaan (operator), dan dependensi eksekusi. Agen berinteraksi melalui "mutasi bertipe" seperti menambah operator atau menghubungkan tepi, bukan menulis kode sembarangan.
Lapisannya kedua, DataFlow-Skills, berupa berkas markdown yang menyuntikkan pengetahuan spesifik domain ke jendela konteks model. Keterampilan ini memandu agen pada pola pemilihan operator, inferensi skema, dan prosedur perakitan — mengajarkan aturan kompatibilitas agar model memadankan format data berbeda dan menangani struktur kompleks tanpa memutus pipeline.
Ketiga, MCP Tools Layer memberikan akses agen ke registri operator dan status alur kerja saat ini. Agen mengusulkan perubahan terstruktur melalui lapisan ini, dan sistem memvalidasi agar alur kerja berjalan dalam urutan valid dan setiap modul terhubung berbicara bahasa data yang sama. Keempat, DataFlow-WebUI menyediakan antarmuka percakapan bahasa alami dan editor DAG visual, memungkinkan insinyur memeriksa dan memodifikasi perubahan yang diajukan AI secara langsung.
Dalam eksperimen perbandingan, Claude Code yang dibebaskan menulis skrip bebas dengan konteks basis kode mencapai 94,2 persen keberhasilan. Namun, ketika dibatasi hanya menggunakan blok bangunan platform untuk membuat grafik alur kerja asli, keberhasilannya turun drastis ke 83,3 persen. DataFlow-Harness berhasil menutup kesenjangan ini ke angka 93,3 persen, membuktikan bahwa pendekatan mutasi bertipe dan grounding semantik platform jauh lebih efektif dari sekadar meningkatkan akurasi generasi kode.
Bagi tim enterprise, implikasinya jelas: mereka memperoleh kecepatan otomatisasi AI tanpa menumpuk utang teknis yang tak terkelola. Pipeline yang dihasilkan aman, teraudit, dan siap produksi sejak hari pertama. Hal ini krusial bagi organisasi yang membangun sistem generasi data sintetis, augmentasi pengambilan, atau pelatihan model yang memerlukan tata kelola ketat dan reproduktibilitas.
Di lanskap teknologi Indonesia, adopsi MLOps dan platform data terkelola seperti Apache Airflow, Dagster, atau Prefect mulai merambah ke perusahaan menengah dan startup skala besar di Jakarta, Bandung, dan Surabaya. Ketersediaan framework open-source seperti DataFlow-Harness menurunkan barrier to entry bagi tim yang ingin memanfaatkan agen AI untuk mempercepat pengembangan pipeline tanpa mengorbankan standar keamanan dan auditabilitas yang dituntut regulasi data seperti UU PDP.
Beberapa tim engineering di Indonesia sudah bereksperimen dengan coding agent seperti GitHub Copilot, Cursor, atau Claude Code untuk tugas-tugas data engineering. Namun, keluhan umum tetap sama: hasilnya berupa notebook atau skrip yang sulit dipromosikan ke lingkungan produksi. DataFlow-Harness menawarkan jalan tengah — memanfaatkan kecepatan LLM sambil memaksa output ke dalam kerangka kerja yang sudah disepakati tim platform.
Ke depan, peneliti berencana memperluas cakupan operator, menambahkan dukungan untuk lebih banyak backend eksekusi, dan menyempurnakan mekanisme umpan balik visual agar kolaborasi manusia-AI semakin mulus. Komunitas open-source diundang berkontribusi pada registri operator dan DataFlow-Skills untuk domain spesifik seperti pemrosesan dokumen hukum, log telekomunikasi, atau data sensor manufaktur — yang semuanya relevan bagi industri domestik.