Jakarta, FORTUNE - Groq, pelopor teknologi AI inference, meluncurkan kerja sama dengan Equinix untuk memperluas jejak infrastruktur AI global di pangkalan data International Business Exchange (IBX) milik Equinix di Sydney, Australia. Kolaborasi melalui layanan AI berlatensi rendah itu memiliki nilai investasi maksimal US$300 juta, dengan nilai realisasi saat ini US$50 juta.
“Kami berinvestasi sekitar US$300 juta secara total antara perangkat keras dan apa yang kami habiskan di pusat data, dan itu rencana kami saat ini. Tentu saja [angkanya] akan tumbuh jika kami mendapatkan lebih banyak permintaan,” ujar Founder dan CEO Groq, Jonathan Ross, dalam konferensi pers secara daring, Senin (17/11).
Sebagai konteks, AI inference adalah proses menerapkan apa yang dipelajari oleh model AI untuk membuat keputusan, prediksi, atau kesimpulan dari data yang ada.
Melalui kerja sama tersebut, Groq dan Equinix akan membangun salah satu lokasi infrastruktur AI inference berkecepatan tinggi terbesar di Australia, tepatnya di Sydney. Fasilitas itu berkapasitas 4,5 GW dan menawarkan daya komputasi yang mereka klaim lima kali lebih cepat dan berbiaya lebih rendah ketimbang GPU tradisional dan hyperscale clouds.
Kolaborasi ini menghadirkan language processing unit (LPU) inference engine milik Groq, yang dirancang khusus mempercepat proses inferensi large language model (LLM) dan aplikasi AI generatif lainnya.
Berdasarkan riset Worldwide AI dan Generative AI Spending Guide dari IDC, investasi di kawasan Asia Pasifik diproyeksikan mencapai US$110 miliar pada 2028, dengan tingkat pertumbuhan tahunan gabungan (CAGR) 24 persen pada 2023 hingga 2028.
Melalui penggabungan teknologi AI inference dari Groq dan infrastruktur global dan solusi konektivitas dari Equinix, perusahaan di Asia Pasifik dapat melakukan scale up beban kerja AI secara efisien sekaligus menjaga efektivitas biaya, kecepatan, dan kepatuhan.
Untuk itu, Presiden, APAC, Equinix, Cyrus Adaggra, juga menyatakan Equinix telah memiliki kapasitas besar dengan 260 pusat data di 35 negara berbeda.
“Itu sebabnya Groq memilih untuk deploy dengan kami. Tidak hanya di sini di Australia, tapi di seluruh dunia. Dan kemudian untuk menambahkan, kami ingin membawa lebih banyak pusat data di Australia,” ujarnya dalam paparan yang sama.
Hampir seluruh negara di Asia Pasifik, termasuk negara-negara di Asia Tenggara, dapat mengambil manfaat dari infrastruktur AI berlatensi rendah ini menyusul keberadaan pusat data Equinix di beberapa tempat seperti Indonesia, Singapura, Malaysia, hingga Filipina.
Latensi rendah memungkinkan teknologi AI memproses data dan mengambil keputusan dengan lebih cepat dan efisien.
Australia kini dianggap kondusif untuk pertumbuhan AI inference karena dianggap ramah bisnis, menawarkan harga energi yang kompetitif, serta terhubung dengan kabel bawah laut.