Richard Marshall menetapkan nada tegas pada acara Trend Teknologi ScotlandIS tahun ini.
Diadakan di kantor Glasgow Burness Paull – yang merupakan hari kedua dari tiga hari berjalan yang juga mencakup Edinburgh dan Aberdeen – Marshall mendukung tema nihilistik dengan senang hati “masa depan rusak”, mendorong audit praktis terhadap kekurangan teknologi modern – alias, “bagaimana kita bisa memperbaikinya?”
Melihat kembali beberapa berita terbesar yang dipublikasikan di DIGIT selama 12 bulan terakhir, sulit untuk membantah keparahan penilaian Marshall.
Gangguan IT massal telah memengaruhi sistem global – mulai dari pembaruan yang tampaknya tidak berbahaya tetapi diluncurkan dengan ceroboh hingga serangan yang ditargetkan. AI, meskipun memiliki potensi tanpa batas untuk kebaikan (lihat aplikasi dalam diagnosis kesehatan, pemodelan iklim, dan optimisasi industri), juga menawarkan jalur yang luar biasa lancar ke kasus penggunaan dasar dan tercela.
Divisi digital tetap menjadi keprihatinan serius – terutama karena teknologi baru secara perlahan menyerap sejumlah persyaratan keterampilan tertentu dan menuntut kompetensi yang semakin sulit diperoleh bagi mereka di luar lingkungan yang kaya sumber daya.
Semua ini dan lebih banyak lagi akan dieksplorasi di bawah ini ketika kita melihat sorotan dari pidato Trend Teknologi Richard Marshall, di mana dia “melihat area di mana hal-hal rusak dan menyarankan beberapa cara untuk memperbaikinya dan menyertakan beberapa hal yang menyenangkan sepanjang jalan.”
Fragmentasi AI dan hipe yang keliru
Baris pembukaan Marshall menetapkan nada: bukan ode untuk perlombaan kemampuan model, tetapi pemeriksaan realitas tentang bagaimana praktisi sebenarnya menggunakan alat-alat tersebut. Dia membimbing audiens melalui tumpukan asisten yang kacau dan mengatakan apa yang banyak teknolog berteriak – model yang berbeda sebenarnya lebih baik untuk pekerjaan yang berbeda.
Marshall melanjutkan dengan memberikan dasar pada temuan level alat ini dengan melihat laporan Indeks Ekonomi terbaru Anthropic.
Dalam laporan tersebut, Marshall mengatakan bahwa “[Anthropic] memangkas perkiraan peningkatan produktivitas mereka dari 1,8% menjadi 1% untuk GDP. Dan mereka juga merilis ringkasan yang cukup depresi tentang dampak AI pada produktivitas mereka.”
Dia membacakan metrik langsung kepada ruangan: “Kesimpulan keseluruhan adalah bahwa AI ditambah manusia jauh lebih efektif daripada AI sendiri. Jadi jika Anda memiliki proses yang sangat rumit yang membutuhkan 10 jam kerja, mereka memiliki tingkat keberhasilan yang sangat rendah, 35% tingkat keberhasilan untuk itu. Dan bahkan untuk hal-hal yang kurang kompleks … itu masih hanya sekitar 60% tingkat keberhasilan pada dukungan AI. Jadi ini drastis berkurang dari angka mereka tahun lalu.”
Angka-angka itu membentuk resepnya: jika realitas empiris adalah bahwa “AI ditambah manusia” adalah kombinasi pemenang, maka organisasi harus berhenti memperlakukan model sebagai pengganti dan mulai memperlakukan mereka sebagai rekan seperangkat, yang dibatasi secara sempit, diawasi, dan diukur.
Marshall juga menyoroti bahaya operasional praktis dari proyek pengguna pertama. “Salah satu statistik lain yang muncul dalam dua minggu terakhir ini … adalah fakta bahwa orang telah mengatasi apa yang disebut sebagai ‘pemberian AI’, yang jika Anda mulai membangun sistem AI Anda dua tahun yang lalu, Anda akan harus membuang semuanya karena semuanya telah berubah. Itu semacam masalah.”
Dia mendorong lebih dari sekadar keraguan tajam untuk menguraikan bagaimana tim harus merespons. Lacak standar yang muncul daripada membuat pilihan tak terbalik: “Kita perlu mulai melakukan hal yang sama pada setiap tingkat. MCP, Protokol Kontak Model, adalah awal dalam arah itu.”
Selain itu, praktisi harus fokus pada menggunakan AI untuk tugas-tugas secara jelas ditentukan, diawasi, dan menghindari godaan untuk menempel “AI” di setiap proses bisnis.
Sistem yang tidak dapat diandalkan dan arsitektur yang rumit
Marshall bergerak dari menemukan tren ke keluhan sehari-hari yang kita semua alami – kegagalan login bank, crash aplikasi, dan pembusukan diam dari sistem produksi.
Marshall mengemukakan bahwa masalahnya bukan hanya dalam kegagalan perangkat lunak, tetapi bahwa tidak ada yang benar-benar memahami tumpukan dengan cukup baik untuk memperbaikinya, mengatakan: “Kami memiliki banyak perangkat lunak dan infrastruktur yang ada yang berada di atas data yang ada, dan itu tidak pernah dirancang untuk melakukan apa pun dari semua ini… kami sebenarnya memiliki masalah nyata karena lapisan ini di tengah tidak benar-benar dapat diandalkan.”
Dia menggali ke dalam kekacauan API dan arsitektur yang menciptakan kerapuhan: “API belum diperbarui selama bertahun-tahun, jadi ada banyak fungsionalitas yang hilang” (Meskipun banyak API tetap terjaga, organisasi besar sering bergantung pada API internal atau warisan yang tetap digunakan selama bertahun-tahun dengan pembaruan terbatas, berkontribusi pada kompleksitas sistem).
Marshall memperluas poinnya, mengatakan bahwa dapat ada “15 versi yang berbeda dari satu set API dan ketidakkonsistenan yang luas. Jika Anda memiliki arsitektur mikro layanan dengan 6.000 API – dan mereka memang ada – itu sama sekali terlalu rumit untuk sebagian besar orang memahaminya.”
Marshall menyoroti kegagalan yang lebih halus juga: penanganan kesalahan yang hanya “gagal dalam diam,” dan “sistem mati hidup” di mana kode sumber hilang dan tidak ada yang berani mematikan rak server yang ditemukan di balik dinding partisi (kisah nyata yang sepertinya terjadi pada sebuah perusahaan yang tidak beruntung).
Selanjutnya, dokumentasi, katanya, seringkali lebih buruk daripada tidak ada dokumentasi sama sekali: “Mungkin lebih menyesatkan jika ada dokumentasi yang salah – seperti yang sering terjadi – daripada tidak ada dokumentasi.”
Jadi apa yang harus dilakukan? Marshall menyarankan investasi aktif dalam visi arsitektur yang menerima perubahan, meningkatkan pengujian dan penanganan pengecualian, dan memprioritaskan observabilitas sehingga kegagalan terdeteksi, bukan bergosip sampai menjadi krisis.
Data berantakan dan berisiko, diperkuat oleh AI
“Sepersepuluh data perusahaan adalah tak terstruktur… 82% file memiliki setidaknya satu ketidakakuratan utama di dalamnya… data adalah masalah besar dan kita perlu memperbaikinya karena AI adalah pengeras masalah yang besar. Ini akan meneriakkan kesalahan Anda dengan keras.”
Marshall memberikan salah satu metafora terjelas malam itu: perlakukan data seperti rantai pasokan. Jika perusahaan logistik dapat memodelkan inventaris dan cuaca dan bajak laut, katanya, mengapa organisasi begitu santai tentang asal-usul data mereka dan seberapa segar data itu? Konsekuensi kelalaian diperkuat oleh AI: “Jika Anda tidak memperbaikinya terlebih dahulu… itu akan menyebar melalui semua sistem lainnya.”
Selain itu, kita beroperasi dalam salah satu lingkungan geopolitik paling tidak terduga dalam ingatan terkini. Kepercayaan jelas memudar, dan pertimbangan atas konsekuensi jangka panjang – di luar keuntungan jangka pendek atau pemenuhan ego – tampak semakin langka di antara pemimpin dunia tertentu dan ini bisa memiliki konsekuensi serius bagi bisnis yang mengandalkan infrastruktur digital dan data dihosting di luar negeri.
Obat yang ditawarkan adalah praktis: “menemukan dan mengklasifikasikan sumber data Anda dan mengelolanya secara aktif dengan cara yang sama orang mengelola rantai pasokan mereka… menetapkan standar-standar itu… kita perlu tahu dari mana asalnya juga.”
Dia menekankan sudut hukum juga: “Kita juga harus berbicara tentang kedaulatan data… saatnya untuk meninjau itu. Di mana data perusahaan Anda? Apakah itu lokal?”
Marshall menyarankan agar perusahaan melihat penyedia alternatif yang dapat mereka andalkan. Dia menyebut Tech Made in Europe. Dipesan sebagai ‘Katalog Kedaulatan Teknologi Eropa’, situs ini menggabungkan vendor yang diverifikasi di seluruh cloud, konektivitas, keamanan siber, data, dan AI, dengan sengaja menampilkan perusahaan yang mengembangkan dan menghosting perangkat lunak di Eropa agar organisasi dapat membuat pilihan kedaulatan dan kepatuhan yang lebih jelas.
Platform ini juga telah memperkenalkan label seperti “Perangkat Lunak Buatan Eropa” dan “Perangkat Lunak Di-host di Eropa” untuk meningkatkan transparansi tentang di mana perangkat lunak dikembangkan dan di mana data disimpan.
Perubahan besar tidak diperlukan (atau praktis) tetapi menjalankan uji coba kecil dengan penyedia yang dihosting secara lokal atau bersertifikat regional – dan mencatat penyedia-penyedia tersebut dalam register risiko bersamaan dengan ketergantungan pihak ketiga yang sudah ada – langsung menuju panduan manajemen risiko dari Marshall.
Ini bukanlah ‘peluru perak’, tetapi ini adalah cara pragmatis untuk melindungi diri dari gejolak geopolitik atau rantai pasokan, mengurangi kerancuan hukum seputar kedaulatan data dan menguji seberapa baik alternatif mengintegrasikan dengan tumpukan yang sudah ada sebelum Anda membutuhkannya.
Krisis palsu dan kompleksitas serangan yang meningkat
“Jika Anda melihat berita palsu dan Anda memutuskan bisnis Anda berdasarkan hal itu, Anda bisa membuat keputusan yang sangat buruk. Ini menciptakan risiko keamanan siber. Saya pikir kita semua tahu tentang penciptaan virus dan serangan phising yang didukung AI dan semua alat luar biasa lainnya. Tetapi ada perusahaan-perusahaan di luar sana yang sepenuhnya berspesialisasi dalam menciptakan virus dan vektor serangan dan mereka menggunakan AI untuk mempercepat proses itu. Alat yang dihasilkan oleh AI sangat, sangat efektif untuk itu.”
Marshall membimbing ruangan melalui ancaman bisnis baru yang muncul ketika konten sintetis berkembang.
Ini bukan hanya gangguan: brief palsu, preseden yang dibuat-buat, dan klon suara buatan AI dapat menyebabkan kerusakan hukum, reputasi, dan keuangan, mengutip satu kasus di mana sampler suara digunakan untuk mereplikasi CEO sebuah perusahaan – meyakinkan sampai pada titik di mana para penipu dapat membuat perusahaan mentransfer uang kepada mereka.
Marshall juga menggambarkan rekayasa sosial yang telah diindustrikan: “pemotongan babi – sebuah taktik di mana para penipu (yang bergantung pada kerja paksa) menghabiskan berbulan-bulan mencoba membangun hubungan dengan Anda… akhirnya mereka memiliki masalah, mereka akan mulai mengatakan, Oh, saya baru menemukan hal ini crypto, bisakah Anda berinvestasi di ini?’ Metode ini mudah beradaptasi: metode membangun kepercayaan yang sama yang menipu korban ritel dapat diarahkan pada sysadmin untuk mengumpulkan kredensial.
Jadi bagaimana Marshall menyarankan perusahaan merespons? Nah, pertama-tama, deteksi dan provenans penting: dia menunjuk pada provenans untuk media (gambar yang ditandatangani secara digital… bukan untuk disamakan dengan NFT, ingat). Dia mengilustrasikan pentingnya peringatan yang masuk akal dengan sebuah anekdota: panggilan pelanggan yang tidak mencurigakan ke ScrewFix Direct memicu peringatan perangkat – “Potensi penipuan!” – yang terbukti berguna bahkan ketika itu adalah alarm palsu, jadi lebih banyak itu, tolong.
Pada perbaikan proses yang sederhana, Marshall mendorong hambatan kecil dan praktis untuk penipuan: “memiliki kata kunci yang hanya diketahui oleh dua orang yang sedang berbicara” – penyesuaian prosedural kecil yang meningkatkan biaya untuk penyamar.
Di atas semua itu, dia bersikeras pada verifikasi dan skeptisisme: “AI suka memuaskan Anda sebagai pengguna… Mereka akan membuat sesuatu untuk mendukung apa yang Anda inginkan lakukan, tetapi Anda harus memeriksanya.” Pendidikan, katanya, tetap menjadi pertahanan lini depan – ajarkan staf untuk mengenali konten sintetis, buat verifikasi rutin, dan masukkan langkah-langkah otentikasi sederhana ke dalam proses sehari-hari.
Resep Marshall tidak glamor, tetapi verifikasi manusia yang persisten, seiring tidak nyaman dan menyusahkan sesekali, lebih penting dari sebelumnya. Seperti yang dia katakan, jika Anda tidak memeriksanya, Anda berisiko kerusakan hukum, reputasi, dan finansial yang sangat nyata.
Kekurangan keterampilan, augmentasi manusia, dan kesenjangan teknologi
Marshall menutup dengan mengingatkan ruangan bahwa semua perbaikan teknologi bergantung pada orang. Masalah ganda adalah kurangnya pelatihan yang sesuai dan kesenjangan pengangkatan yang mengkhawatirkan.
Dia mengatakan: “Perusahaan tidak merekrut staf junior… manajemen dan akuntan… berpikir bahwa mereka akan dapat menghemat uang dengan menggantikan staf junior dengan AI. Itu tidak akan berhasil. Anda benar-benar membutuhkan pekerja berpengalaman dan pengetahuan.”
Solusinya bukan berhenti pada teori. Latih orang pada tugas-tugas yang sebenarnya akan mereka lakukan – insinyur arahan, triase pesan cepat, validasi model – dan pasangkan mereka dengan sistem augmented yang mengajari di tempat kerja. “Ada banyak sistem yang sangat keren di luar sana di mana… AI mendeteksi anomali dan menampilkannya kepada orang… itu benar-benar melatih staf keamanan siber dalam cara merespons insiden. Jadi itu bukan hanya menggantikan mereka, itu sebenarnya mengajari mereka cara melakukannya.”
Meskipun tentu saja, ini adalah metode yang akan memerlukan serangkaian pemeriksaan dan keseimbangan dari otoritas manusia untuk memastikan bahwa yang diajarkan tidak hanya dibayangkan.
Marshall juga memperingatkan tentang kesenjangan yang semakin melebar: perusahaan yang dapat berinvestasi dalam bakat dan data bersih akan melaju jauh dari mereka yang tidak bisa, menciptakan lingkaran buruk ketidakuntungan.
Jawaban kebijakan dan komersialnya mudah ditebak namun mendesak: investasi dalam pelatihan, terus merekrut pada tingkat junior, dan mengakui bahwa kemampuan jangka panjang dibangun melalui orang, bukan jalan pintas – dan mungkin layak untuk mengaitkan poin ini dengan yang lebih awal dari Marshall tentang ‘Rusaknya AI’: Setiap sistem AI yang Anda implementasikan sekarang, meskipun tidak diragukan lagi bermanfaat, kemungkinan besar akan memerlukan perombakan dalam beberapa tahun. Tidak demikian jika Anda berinvestasi pada manusia.
Perbaikan, bukan reinkarnasi
Meskipun mudah bagi Marshall untuk memuji keunggulan salah satu periode teknologi paling cepat dalam sejarah teknologi saat ini, dia memilih tugas yang jauh lebih menyusahkan dari menolak berita heboh tentang teknologi transformatif dan malah menawarkan daftar perbaikan dasar: penggunaan AI yang terfragmentasi, XR yang terlalu dijual, sistem yang tidak dapat diandalkan, data kotor, palsu sintetis, dan kekurangan keterampilan yang akan membuat perbaikan sulit.
Resepnya untuk penyakit teknologi kami adalah praktis: berinvestasi dalam arsitektur, perlakukan data sebagai rantai pasokan, uji cadangan dan rencana pemulihan bencana, latih staf dalam AI terapan dan tanggapan, dan p
