Ada hal yang menarik dari Databricks Unity Gateway selain statusnya yang kini Generally Available: governance mulai ditempatkan lebih dekat ke aktivitas yang terjadi saat AI benar-benar digunakan.
Selama ini, enterprise AI governance banyak dibangun di sekitar model, data, permission, dan asset yang boleh digunakan. Namun AI application saat ini mulai melibatkan lebih banyak komponen dalam satu workflow, termasuk external model providers, agents, MCP tools, dan application services. Pada environment seperti ini, permission terhadap masing-masing asset hanya menjawab sebagian dari governance requirement.
Unity Gateway menunjukkan bagaimana Databricks mulai memperluas control tersebut ke runtime. Model services, model provider services, dan MCP services dapat dikelola melalui Unity Catalog, sementara traffic, usage, budgets, dan sejumlah runtime controls dapat diterapkan melalui Unity Gateway. Databricks mengumumkan Unity Gateway sebagai Generally Available pada 4 Agustus 2026, meskipun beberapa capability seperti service policies dan agent services masih berada dalam Beta.
Bagi kami, perkembangan ini menarik karena menunjukkan bahwa AI governance mulai mencakup apa yang terjadi setelah access diberikan. Semakin banyak model dan tools yang dapat digunakan oleh sebuah AI application, semakin relevan pula control yang bekerja saat request benar-benar berjalan.
Unity Catalog tetap menjadi foundation governance di Databricks. Model services, MCP services, model provider services, functions, dan connections dapat dikelola sebagai securable objects menggunakan privilege model yang sama dengan asset lain di Unity Catalog.
Unity Gateway kemudian membawa governance tersebut ke traffic yang menuju AI services. Databricks membagi pendekatannya ke dalam asset governance, traffic governance, dan behavior governance. Asset dan authorization berada di Unity Catalog, sementara Unity Gateway dapat menangani area seperti routing, rate limits, budgets, dan usage tracking. Untuk individual requests dan responses, Databricks juga menyediakan service policies yang saat ini masih berstatus Beta.
Secara sederhana, execution path tersebut dapat digambarkan seperti:
Application / Agent
↓
Unity Gateway
↓
Unity Catalog Authorization
↓
Model Service / MCP Service
↓
Model, Provider, or Tool
Posisi Unity Gateway di dalam request path menjadi bagian yang penting. Governance tidak hanya menentukan apakah sebuah user atau application memiliki hak untuk menggunakan service tertentu, tetapi juga dapat mengatur traffic yang muncul ketika service tersebut benar-benar dipanggil.
Dengan demikian, governance tidak berhenti pada konfigurasi sebelum application masuk production. Sebagian control ikut berada di jalur execution.
Runtime governance menjadi semakin relevan ketika AI application mulai menggunakan agentic workflows.
Pada application yang lebih sederhana, interaction mungkin hanya terdiri dari user prompt, model request, dan response. Agentic application dapat memiliki workflow yang jauh lebih luas karena model dapat menggunakan tools, mencari informasi, mengakses external services, atau menjalankan action melalui systems lain.
MCP menjadi salah satu mekanisme yang memungkinkan agent terhubung dengan tools tersebut.
Di Databricks, MCP service dapat diregistrasikan sebagai Unity Catalog securable dan diakses melalui Unity Gateway. Organization dapat mengatur siapa yang memiliki permission untuk menggunakan service tersebut, memilih tools yang diekspos, menerapkan rate limits, dan memonitor usage. Databricks juga telah mengintegrasikan Databricks-managed MCP connectors dengan Unity Gateway dalam Beta.
Service policies membawa control lebih jauh ke individual interaction. Policy dapat mengevaluasi content dari request atau response dan digunakan untuk allow, deny, atau require approval berdasarkan rule yang diterapkan. Databricks menyebut use case seperti blocking request yang mengandung PII atau menolak tool call yang tidak sesuai policy. Capability ini masih berada dalam Beta.
Authorization tetap menjadi fondasi, tetapi agentic AI memperluas scope yang perlu di-govern. Ketika agent mulai menggunakan beberapa services dalam satu workflow, organization perlu memahami bagaimana permission tersebut digunakan selama execution berlangsung.
Penggunaan lebih dari satu model provider juga menjadi bagian penting dari perubahan ini.
Enterprise AI environment tidak selalu bergantung pada satu model. Teams dapat menggunakan model yang berbeda berdasarkan capability, performance, cost, availability, atau karakteristik use case tertentu. Tanpa governance layer yang konsisten, setiap provider dapat membawa credential, access pattern, monitoring, dan cost management yang berbeda.
Unity Gateway menyediakan model provider services untuk external providers dan membawa access tersebut ke dalam Unity Catalog governance. Databricks mendokumentasikan dukungan terhadap provider seperti OpenAI, Anthropic, dan Amazon Bedrock, dengan centrally managed credentials dan access melalui governed services.
Model services juga dapat digunakan untuk mengatur bagaimana traffic dikirim ke model destinations, termasuk traffic splitting dan fallback. Artinya, pemilihan provider atau model dapat berubah tanpa harus membuat governance mechanism yang sepenuhnya berbeda untuk setiap destination.
Menurut kami, ini menjadi salah satu implikasi yang menarik dari multi-model architecture. Ketika organization mulai menggunakan beberapa model dalam satu environment, governance terhadap traffic menjadi sama relevannya dengan governance terhadap model yang tersedia.
AI governance sering dibahas dari sisi permission, security, risk, dan compliance. Namun pada production scale, consumption juga perlu mendapat perhatian.
Unity Gateway menyediakan budgets untuk memonitor dan mengontrol spend, termasuk per-user thresholds dan hard caps. Databricks juga memperluas capability ini untuk membantu mengontrol external provider costs yang melalui Unity Gateway.
Hal ini penting karena pola consumption pada AI application dapat berbeda dari traditional application.
Satu request dari user dapat menghasilkan beberapa model calls atau tool invocations, terutama pada agentic workflows. Dengan semakin banyak model dan services yang digunakan, organization perlu mengetahui tidak hanya apakah suatu activity diperbolehkan, tetapi juga bagaimana consumption tersebut berkembang dan siapa yang menghasilkannya.
Di sini cost tidak berdiri sebagai isu terpisah dari governance. Usage, attribution, budget, dan access mulai berada dalam operating context yang sama.
Perkembangan runtime governance tidak membuat traditional access control menjadi kurang penting.
Sebaliknya, runtime control bergantung pada access model yang sudah jelas.
Unity Catalog menentukan principal mana yang dapat menggunakan service atau asset tertentu. Unity Gateway kemudian berada di jalur traffic yang muncul ketika service tersebut digunakan. Kombinasi keduanya membuat governance dapat diterapkan pada dua konteks yang berbeda tetapi saling melengkapi.
Sebelum execution, organization dapat mengatur approved services, permissions, identities, dan data policies. Ketika execution berlangsung, focus governance dapat berkembang ke traffic, tool invocation, usage, spend, dan policy yang berlaku pada individual interaction.
Perbedaannya menjadi semakin penting seiring architecture bertambah kompleks. Sebuah agent dapat menggunakan model dari external provider, mengambil context dari enterprise data, memanggil MCP tool, dan terhubung ke external service dalam satu workflow.
Pada scenario seperti itu, mengetahui siapa yang memiliki access tetap penting, tetapi tidak lagi memberikan gambaran lengkap tentang apa yang terjadi selama execution.
Menurut kami, Unity Gateway menarik bukan karena enterprise membutuhkan gateway baru.
Yang lebih penting adalah jenis control yang mulai ditempatkan di dalam runtime path tersebut.
Model services, model provider services, MCP services, traffic controls, cost management, observability, dan policy enforcement mulai dikelola dalam governance architecture yang saling terhubung. Databricks sendiri mendeskripsikan Unity Gateway sebagai enterprise control plane untuk AI traffic, dibangun di atas Unity Catalog.
Di sinilah product announcement tersebut memberikan signal yang lebih luas.
Ketika AI hanya menggunakan satu model dan sedikit dependency, governance dapat terlihat relatif straightforward. Namun ketika AI system mulai memiliki kemampuan untuk memilih model, menggunakan tools, berinteraksi dengan external services, dan menjalankan workflow yang lebih panjang, sebagian governance requirement ikut berpindah ke execution layer.
Untuk agentic AI, runtime kemudian menjadi bagian dari architecture discussion karena activity yang perlu dikontrol tidak seluruhnya dapat ditentukan hanya dari asset yang sudah mendapatkan permission.
Setiap organization tentu tidak harus menggunakan architecture yang sama dengan Databricks Unity Gateway. Namun direction yang ditunjukkan oleh development ini relevan untuk enterprise yang sedang mempertimbangkan agentic AI atau multi-model environment.
Beberapa area yang sebelumnya dapat dikelola secara terpisah mulai berhubungan lebih erat. Model access perlu mempertimbangkan provider management. Tool access berkaitan dengan identity dan authorization. Usage monitoring perlu terhubung dengan cost. Policy enforcement perlu mempertimbangkan interaction yang terjadi selama application berjalan.
Hal tersebut membuat runtime governance layak dipertimbangkan sejak tahap architecture design, terutama ketika organization berencana menggunakan multiple model providers, MCP tools, atau agents yang memiliki akses terhadap enterprise systems.
Menambahkan control setelah application architecture sudah berkembang menjadi banyak direct connections ke models, APIs, dan tools tentu masih memungkinkan. Namun semakin tersebar execution path-nya, semakin kompleks pula governance yang perlu dibangun di atasnya.
Menurut kami, inilah bagian yang paling relevan dari perkembangan Unity Gateway: governance architecture mulai beradaptasi dengan cara enterprise AI benar-benar digunakan di production.
Unity Gateway hadir ketika enterprise AI mulai bergerak dari penggunaan model secara standalone menuju environment yang lebih terhubung.
Models dapat berasal dari beberapa providers, agents dapat menggunakan MCP tools, dan satu workflow dapat menghasilkan model requests, tool calls, serta consumption yang berbeda-beda. Dalam architecture seperti ini, governance perlu mencakup lebih dari asset yang tersedia atau permission yang diberikan.
Databricks Unity Gateway merupakan salah satu contoh bagaimana governance mulai dibawa lebih dekat ke execution layer. Tidak seluruh capability yang mendukung arah ini sudah GA—service policies dan beberapa enhanced capabilities masih berada dalam Beta—tetapi direction-nya sudah terlihat dari architecture dan capability yang tersedia saat ini.
Bagi enterprise yang sedang membangun AI architecture, hal yang perlu dipertimbangkan kemudian adalah seberapa jauh governance tetap berlaku setelah sebuah AI application mulai menjalankan request.
ICS Compute membantu organization merancang dan mengimplementasikan Data & AI environment dengan mempertimbangkan governance sebagai bagian dari architecture dan operational requirement, termasuk untuk production AI dan agentic workflows.
Enterprise AI semakin banyak menggunakan multiple models, external providers, tools, dan agentic workflows. Dalam environment seperti ini, governance perlu dipertimbangkan sampai ke execution layer tempat seluruh komponen tersebut berinteraksi.
Talk to ICS Compute about building a governed Data & AI architecture.