POIN 2026 — Birokrasi AI-Ready | BRIDA Jawa Timur

POIN 2026 — Birokrasi AI-Ready | BRIDA Jawa Timur
POIN 2026 · BRIDA Jawa Timur

Birokrasi AI-Ready
Kerangka Tata Kelola Berbasis Risiko Menuju Bounded Agentic Government

Sub-tema: Transformasi Digital Pelayanan Publik untuk Tata Kelola Pemerintahan yang Efektif dan Inklusif

Penyusun
Irfa Darojat, S.E., M.Si.
Instansi
Pemerintah Kota Madiun
Presentasi
28–29 Oktober 2026
Pesan Utama
"AI Boleh Bertindak,
Tetapi Tidak Boleh Berwenang."

Satu kalimat yang menjadi inti dari seluruh kerangka kebijakan yang akan kami sampaikan.

Masalah

AI memasuki fase agentic — dan karakter risikonya berubah.

Sistem AI kini mampu merencanakan pekerjaan, menggunakan tools, mengakses data, dan menjalankan rangkaian tindakan secara semi-otonom.

Sebelumnya
AI hanya membuat draft
Risiko terutama pada kualitas output — akurasi, bias, dan kesesuaian konten.
→
Sekarang
AI mengakses data & menjalankan tindakan
Risiko bergeser ke akses, identitas, otorisasi, kewenangan, reversibilitas, dan akuntabilitas.
DATA→ ACCESS→ SYSTEM→ ACTION→ AUTHORITY→ ACCOUNTABILITY
Rumusan Persoalan
Bagaimana Jawa Timur dapat mempercepat pemanfaatan AI untuk meningkatkan kinerja pemerintahan dan pelayanan publik, tanpa membiarkan peningkatan kemampuan teknis AI berubah menjadi peningkatan kewenangan publik yang tidak terkendali?
Analisis Permasalahan

Tiga risiko kebijakan utama jika tanpa kerangka operasional

RISIKO 01

Over-restriction

Aturan terlalu ketat sehingga inovasi dan eksperimen AI terhambat.

RISIKO 02

Under-governance

AI digunakan tanpa kontrol memadai terhadap data, keamanan, kewenangan, dan akuntabilitas.

RISIKO 03

Fragmentation

OPD mengembangkan praktik AI sendiri-sendiri tanpa standar bersama.

Akar masalah bukan ketiadaan teknologi, melainkan belum adanya mekanisme yang menghubungkan use case → competency → data → risk → autonomy → authority → oversight → evidence → impact dalam satu siklus keputusan.

Solusi Kebijakan

Jatim AI-Ready Framework

Lapisan tata kelola di atas proses pemerintahan yang telah ada. Paradigma diubah dari "Pemerintah memiliki aplikasi AI" menjadi:

"Pemerintah memiliki AI yang dapat digunakan, dibatasi, diawasi, diukur, diaudit, dikoreksi, dan dihentikan."

Proportional Adaptif Competency-aware Auditable Scalable
Logika Inti

CORE: Empat Pertanyaan Fundamental

Seluruh kerangka bermuara pada satu rantai keputusan yang sederhana.

01 · RISK

Seberapa besar risikonya?

Klasifikasi data, dampak keputusan, reversibilitas, dan traceability.

02 · AUTONOMY

Seberapa besar otonominya?

Dari L1 Assist hingga L5 Autonomous Decision (dilarang).

03 · AUTHORITY

Siapa yang berwenang?

Batas otorisasi, sistem yang boleh diakses, dan durasi operasi.

04 · OVERSIGHT

Siapa yang mengawasi?

Human oversight substantif, audit trail, kill-switch, dan rollback.

RISK ↑→ OVERSIGHT ↑→ AUTONOMY ↓
Instrumen 01

AI Risk & Autonomy Register

Register bukan sekadar inventaris aplikasi — melainkan decision engine kebijakan. Setiap penggunaan AI wajib melalui register sebelum implementasi.

10 ELEMEN MINIMAL

  • Data Risk — klasifikasi & sensitivitas
  • Decision Impact — dampak keputusan
  • Autonomy Level — L1 hingga L5
  • Access Authority — batas akses
  • Human Oversight — bentuk pengawasan
  • Reversibility — dapat dibatalkan?
  • Evidence Traceability — jejak audit
  • Policy Decision Record — keputusan resmi
  • User/Operator Competency — kompetensi
  • Security & Privacy Controls — kontrol keamanan

Contoh: AI Routing Pengaduan

Data RiskSedang
Decision ImpactSedang
Autonomy LevelL2 Recommend
Human OversightWajib — verifikasi substantif
Risk OwnerKepala OPD pengampu
StatusBersyarat
Risk-Based Autonomy

Lima Tingkat Otonomi AI

LevelOtonomiAturan
L1 Assist AI membantu; ASN memverifikasi secara substantif
L2 Recommend AI memberi rekomendasi; keputusan tetap pada manusia
L3 Execute with Approval AI menjalankan tindakan setelah persetujuan manusia yang substantif
L4 Bounded Agent AI menjalankan workflow multi-langkah dalam batas yang ditentukan
L5 Autonomous Decision PROHIBITED — AI mengambil keputusan publik final secara mandiri

Autonomy is a risk decision, not a technology achievement.

Instrumen 02

AI Authority Passport

AI boleh menjalankan workflow. AI tidak memiliki kewenangan publik. Setiap agent wajib memiliki paspor kewenangan yang menjawab 8 pertanyaan.

WHO
Siapa pengguna/operator dan Risk Owner?
WHY
Untuk tujuan apa AI digunakan?
DATA
Data apa yang boleh digunakan?
SYSTEM
Sistem apa yang boleh diakses?
ACTION
Tindakan apa yang boleh dilakukan?
AUTHORITY
Batas otorisasinya apa?
TIME
Berapa lama AI dapat bekerja?
STOP
Bagaimana AI dihentikan?

Kemampuan teknis AI tidak otomatis menjadi kewenangan administratif.

Instrumen 03

Agentic-Ready Gate

AI tidak boleh dinaikkan ke tingkat otonomi lebih tinggi hanya karena secara teknis mampu. Kenaikan menuju L3 atau L4 harus melalui gate.

✓ Register lengkap & Risk Owner menyetujui
✓ Authority Boundary tertulis & Passport tersedia
✓ Allow-list & least privilege diterapkan
✓ Logging, audit trail, kill-switch & rollback teruji
✓ Baseline tersedia & kompetensi operator memenuhi
✓ Human oversight substantif & evidence traceability
Jika belum terpenuhi: SCALE REDESIGN PAUSE STOP

Tidak ada kenaikan otonomi tanpa kenaikan kesiapan manusia, governance, dan kontrol.

Hasil yang Dituju
Bounded Agentic Government

Model pemerintahan di mana AI dapat menjalankan workflow multi-langkah secara terukur dalam batas DATA + SYSTEM + ACTION + TIME + AUTHORITY + RISK yang telah ditentukan. AI tidak memperoleh kewenangan publik.

Lima Larangan Utama

✕ Tidak boleh mengambil keputusan publik final secara mandiri
✕ Tidak boleh mengubah sumber data tanpa otorisasi
✕ Tidak boleh mengakses sistem di luar allow-list
✕ Tidak boleh melakukan tindakan irreversible tanpa kontrol
✕ Tindakan relevan harus meninggalkan audit trail

Kontrolled Innovation

Pemerintah tidak perlu memilih antara INOVASI atau KONTROL.

Pendekatannya adalah CONTROLLED INNOVATION.

Rekomendasi Kebijakan

Lima Keputusan yang Membentuk Rantai

GOVERN→ REGISTER→ GATE→ AUTHORITY→ MONITOR
01

Jatim AI Governance & Innovation Lab

Di bawah koordinasi BRIDA bersama Bappeda, Diskominfo, BPSDM — paling lambat 3 bulan.

02

AI Risk & Autonomy Register

Registrasi wajib setiap use case sebelum implementasi; dimulai dari OPD percontohan.

03

Agentic-Ready Gate

Kontrol kritis sebagai prasyarat peningkatan otonomi (khususnya L3–L4).

04

AI Authority Passport

Batas tertulis atas data, sistem, tindakan, kewenangan, waktu, approval & stop.

05

Incident, Audit & Stop Mechanism

Continuous monitoring, audit trail, kill-switch, rollback, dan evaluasi insiden.

PRIORITAS 0–6 BULAN

Quick Wins

Drafting, notulensi, analisis dokumen, pencarian regulasi, routing pengaduan, rekomendasi internal yang diverifikasi ASN. Kompetensi AI diintegrasikan ke IKU ASN.

Roadmap Implementasi

0–36 Bulan

0–6 Bulan
GOVERN & BASELINE
  • Membentuk Governance & Innovation Lab
  • Menetapkan pedoman awal
  • Memetakan AI use case OPD
  • Menyusun baseline & Register
  • Menetapkan kompetensi minimum
  • Menjalankan prototype governance assistant
  • Pilot L1–L2 (low-risk)
6–18 Bulan
PILOT & GATE
  • Pilot use case prioritas
  • Risk assessment
  • Authority Boundary & Passport
  • Uji human oversight
  • Uji audit trail
  • Uji kill-switch & rollback
  • Pengembangan L3 terbatas
  • Evaluasi manfaat dan risiko
18–36 Bulan
EVALUATE & SCALE
  • Membandingkan hasil dengan baseline
  • Menghentikan/desain ulang yang berisiko
  • Mereplikasi use case terbukti
  • Knowledge base lintas OPD
  • Uji L4 pada workflow sesuai
  • Integrasi ke perencanaan pembangunan
Bukti Kelayakan

Proof-of-Concept — Bukan Klaim Implementasi

Policy → Framework → Instrument → Prototype → Pilot → Evaluation → Scale. Bukan: Policy → Product promotion.

AI Risk & Autonomy Governance Copilot
gemini.google.com/gem/cdbf7a014008
Birokrasi AI-Ready Portal
birokrasi-ai-ready.blogspot.com
Birokrasi AI-Ready Web Prototype
birokrasi-ai-ready.lovable.app
Risk-Based AI Use Case Prototype
risk-based-ai-use-case.ai.studio
AI-Ready Task Manager
ai-ready-task-manager-902084586779.asia-southeast1.run.app

Seluruh prototype merupakan demonstrasi konsep, bukan klaim implementasi penuh pada Pemerintah Provinsi Jawa Timur. Prinsip desain: vendor-neutral, interoperable, auditable, human-in-the-loop, risk-based.

Indikator Keberhasilan

Diukur dari keamanan & dampak, bukan jumlah aplikasi

100%
Use case pilot terdaftar di Register
100%
Use case memiliki Risk Owner
100%
Use case L3/L4 memiliki Authority Passport
100%
Pilot memiliki audit trail lengkap
100%
Operator memenuhi competency requirement
100%
Use case berisiko melalui Agentic-Ready Gate

Indikator dampak ditetapkan setelah baseline tersedia: waktu proses, error rate, kualitas output, insiden keamanan, keberhasilan kill-switch & rollback, dan dampak terhadap pelayanan publik.

Tata Kelola

Pembagian Peran

Gubernur / Sekda

Arah kebijakan dan akuntabilitas lintas OPD; keputusan akhir use case berisiko tinggi.

BRIDA

Koordinasi Governance & Innovation Lab, pilot, evaluasi, evidence-based scaling.

Bappeda

Integrasi hasil evaluasi ke perencanaan pembangunan.

Diskominfo

Arsitektur digital, keamanan, integrasi, lingkungan teknologi.

BPSDM

AI literacy, competency, pelatihan, asesmen berbasis use case.

Kepala OPD & ASN

Risk Owner use case; verifikasi substantif, dokumentasi, human oversight.

Kesimpulan
Jawa Timur tidak membutuhkan kebijakan yang sekadar menyatakan "AI boleh digunakan."

Yang dibutuhkan adalah mekanisme untuk menentukan:

kapan untuk apa dengan data apa pada sistem apa otonomi berapa kompetensi apa tanggung jawab siapa bukti apa bagaimana dihentikan
Theory of Change
Human Ready → Use-Case Ready → Agent Ready → Authority Ready → Bounded Agentic Government

"AI boleh ditingkatkan kemampuannya untuk bertindak, namun kewenangan publik untuk memutuskan harus tetap berada di tangan pejabat pemerintah yang sah."

— Irfa Darojat, S.E., M.Si.

Bukan birokrasi yang sekadar menggunakan AI, tetapi birokrasi yang mampu mengendalikan AI secara bertanggung jawab, kompeten, aman, terukur, dapat diaudit, dan berbasis bukti.

POIN 2026 · BRIDA Jawa Timur

Terima Kasih

Irfa Darojat, S.E., M.Si. · Pemerintah Kota Madiun
Diskusi & Tanya Jawab

Risk-Based Governance Human Oversight Bounded Autonomy Auditable AI

Komentar

Postingan populer dari blog ini

Lurah-Coach × Ekosistem Kesejahteraan Kelurahan — Operating Model Menuju Kelurahan 2030

Ekosistem Kesejahteraan Warga 2030 — Master Hub Gagasan https://ikhtiar-masyarakat-sejahtera.ai.studio/

KPI Berbasis Prioritas × Ekosistem Kesejahteraan Kelurahan https://ikhtiar-masyarakat-sejahtera.ai.studio/