UK Ubah Nama Badan AI Jadi AI Security Institute
UK drops ‘safety’ from its AI body, now called AI Security Institute, inks MOU with Anthropic https://techcrunch.com/2025/02/13/uk-drops-safety-from-its-ai-body-now-called-ai-security-institute-inks-mou-with-anthropic/

Pemerintah Inggris Mengubah Tujuan Lembaga AI yang Dibentuk Tahun Lalu

Pemerintah Inggris telah memutuskan untuk mengalihkan fokusnya ke pengembangan ekonomi dan industri dengan menggunakan Teknologi Kecerdasan Buatan (AI), dan sebagai bagian dari itu, mereka akan mengubah tujuan lembaga yang dibentuk sekitar setahun yang lalu. Lembaga tersebut yang sebelumnya dikenal sebagai "AI Safety Institute" akan diubah menjadi "AI Security Institute".

Lembaga ini sebelumnya fokus pada penelitian tentang risiko eksistensial dan bias dalam model bahasa besar, namun sekarang akan fokus pada keamanan siber, khususnya "menguatkan perlindungan terhadap risiko yang dihadapi oleh AI terhadap keamanan nasional dan kejahatan".

Selain itu, pemerintah Inggris juga mengumumkan kerja sama dengan perusahaan Anthropic. Meskipun tidak ada jasa yang diumumkan, perjanjian MOU menunjukkan bahwa kedua perusahaan akan "menggunakan" AI assistant Claude dari Anthropic dalam layanan publik, dan Anthropic akan berkontribusi pada penelitian ilmiah dan model ekonomi.

"AI memiliki potensi untuk mengubah cara pemerintah menyediakan layanan bagi warga negara mereka," kata Dario Amodei, pendiri dan CEO Anthropic. "Kami berharap dapat mengembangkan bagaimana AI assistant Claude dapat membantu pemerintah agen-agennya meningkatkan layanan publik, dengan tujuan untuk menemukan cara baru untuk membuat informasi dan layanan yang lebih efisien dan aksesibel bagi warga negara Inggris."

Perusahaan Anthropic adalah satu-satunya perusahaan yang diumumkan oleh pemerintah Inggris hari ini, tetapi tidak satu-satunya perusahaan yang bekerja sama dengan pemerintah. Pada bulan Januari, pemerintah Inggris mengumumkan berbagai alat yang diungkapkan, semua yang dipower oleh OpenAI.

Pengubahan tujuan lembaga AI Safety Institute yang sebelumnya tidak terduga, karena pemerintah Inggris telah mengumumkan rencana AI yang berat sekitar setahun yang lalu. Pada saat itu, pemerintah Inggris mengumumkan rencana AI yang berat yang disebut "Plan for Change", yang berfokus pada pengembangan ekonomi yang modern dengan menggunakan teknologi dan AI.

Namun, pernyataan pemerintah Inggris bahwa "safety" tidak muncul dalam dokumen tersebut bukanlah kesalahan. Pemerintah Inggris telah menyatakan bahwa rencana mereka adalah untuk memulai investasi dalam ekonomi yang modern, menggunakan teknologi dan AI untuk itu.

Pada saat ini, pemerintah Inggris telah mempromosikan pesat pengembangan AI, AI, dan pengembangan lainnya. Pemerintah juga telah memperkenalkan AI assistant yang disebut "Humphrey" untuk civil servant, dan mereka telah diundang untuk berbagi data dan menggunakan AI dalam bidang lain untuk meningkatkan efisiensi kerja.

Namun, pernyataan pemerintah Inggris bahwa "safety" tidak muncul dalam dokumen tersebut bukanlah kesalahan. Pemerintah Inggris telah menyatakan bahwa mereka tidak akan mempertimbangkan "safety" sebagai biaya untuk kemajuan.

"Perubahan yang saya umumkan hari ini merupakan langkah berikutnya dalam bagaimana kita mendekati pengembangan AI yang bertanggung jawab – membantu kita untuk mengembangkan AI dan meningkatkan ekonomi sebagai bagian dari rencana perubahan kita," kata Peter Kyle, Sekretaris Negara untuk Teknologi. "Kerja lembaga AI Security Institute tidak berubah, tetapi fokus baru ini akan memastikan bahwa warga negara kita – dan warga negara kita di negara-negara kita saling mendukung – dilindungi dari mereka yang akan menggunakan AI untuk menyerang institusi kita, nilai-nilai demokratis, dan cara hidup kita."

Dalam jangka panjang, prioritas pemerintah Inggris terhadap "safety" telah berubah. Risiko utama yang dihadapi oleh lembaga AI Safety Institute di Amerika Serikat saat ini adalah bahwa lembaga tersebut akan dibubarkan. Wakil Presiden Amerika Serikat, J.D. Vance, telah mengungkapkan hal ini dalam pidatonya di Paris beberapa hari yang lalu.

Sementara itu, TechCrunch memiliki newsletter yang fokus pada AI. Anda dapat mendaftar newsletter kami di inbox Anda setiap Selasa.