6 kesalahan bisnis terbesar yang disebabkan oleh AI | AI dalam bisnis #58

Bagaimana menghindari kesalahan bisnis saat menerapkan AI?

Kesalahan bisnis dalam AI dapat memiliki konsekuensi serius bagi perusahaan, jadi Anda perlu menguji sistem pembelajaran mesin dengan sangat hati-hati sebelum membawanya ke pasar. Jika tidak, investasi besar dalam teknologi baru dapat berakhir dalam bencana finansial dan reputasi yang besar.

Jadi, bagaimana Anda menghindari kesalahan bisnis saat menerapkan kecerdasan buatan? Meskipun saran pertama mungkin terlihat terlalu sederhana untuk berhasil, itu adalah: “Perhatikan kualitas data!”

Saran kedua berkaitan dengan pengujian yang luas dalam lingkungan tertutup sebelum merilis alat tersebut ke publik. Anda tidak hanya harus menguji kinerja teknis alat tersebut tetapi juga memverifikasi:

• kepatuhan etis — tujuan dari pengujian adalah untuk mengurangi bias dan stereotip yang direproduksi oleh AI,
• kepatuhan hukum — memverifikasi bahwa data yang digunakan oleh alat AI, serta konten yang mereka hasilkan, mematuhi hukum negara.

Bahkan raksasa di bidang kecerdasan buatan tidak mengikuti saran ini hari ini, merilis chatbot ke dunia yang diberi label sebagai “eksperimen awal” atau “proyek penelitian.” Namun, seiring teknologi berkembang dan hukum yang mengatur penggunaan kecerdasan buatan mulai berlaku, masalah ini akan menjadi semakin mendesak.

Google Photos

Daftar kesalahan bisnis terkait penggunaan kecerdasan buatan dimulai dengan kasus dari tahun 2015. Saat itu, aplikasi Google Photos, yang menggunakan versi awal kecerdasan buatan untuk pengenalan gambar (visi komputer), salah memberi label foto orang kulit hitam sebagai foto gorila. Kesalahan bisnis ini terjadi karena set data pelatihan yang digunakan untuk mengajarkan algoritma tersebut mengandung terlalu sedikit foto orang kulit hitam.

Lebih jauh lagi, Google mengalami masalah serupa dengan kamera pintar Nest, yang salah mengidentifikasi beberapa orang berkulit gelap sebagai hewan. Insiden ini menunjukkan bahwa sistem visi komputer masih kesulitan mengenali karakteristik ras yang berbeda.

Kesalahan bisnis: Diskriminasi usia

Pada tahun 2023, iTutor Group setuju untuk membayar $365,000 untuk menyelesaikan gugatan terkait penggunaan perangkat lunak rekrutmen diskriminatif. Perangkat lunak tersebut ditemukan secara otomatis menolak kandidat perempuan yang berusia di atas 55 tahun dan kandidat yang berusia di atas 60 tahun, tanpa mempertimbangkan pengalaman atau kualifikasi mereka.

Amazon juga mengalami kesalahan bisnis serupa. Kembali pada tahun 2014, perusahaan tersebut sedang mengembangkan AI untuk membantu proses perekrutan. Sistem tersebut kesulitan mengevaluasi resume kandidat perempuan karena belajar dari data yang sebagian besar terdiri dari dokumen yang diajukan oleh pria. Akibatnya, Amazon menghentikan proyek untuk menerapkan kecerdasan buatan dalam proses tersebut.

Kasus-kasus ini menunjukkan bahwa mengotomatiskan proses rekrutmen membawa risiko memperpetuasi bias dan memperlakukan kandidat secara tidak adil.

Sumber: DALL·E 3, prompt: Marta M. Kania (https://www.linkedin.com/in/martamatyldakania/)

ChatGPT menciptakan preseden pengadilan yang salah

Kasus lain sangat kontemporer. Pada tahun 2023, pengacara Steven A. Schwartz menggunakan ChatGPT untuk mencari kasus hukum masa lalu untuk gugatan terhadap maskapai Avianca. Namun, ternyata setidaknya enam dari kasus yang diberikan oleh AI adalah salah – mereka mengandung nama, nomor kasus, dan kutipan yang tidak benar.

Ini terjadi karena Model Bahasa Besar (LLM) berhalusinasi, yaitu mereka menciptakan jawaban yang mungkin ketika mereka tidak dapat menemukan fakta yang tepat. Oleh karena itu, perlu untuk memeriksa jawaban mereka setiap kali. Dan Schwartz melewatkan langkah ini. Itulah sebabnya hakim menjatuhkan denda sebesar $5,000 untuk “kelalaian berat”.

Kesalahan bisnis: Apple Watch yang tidak berfungsi dengan baik pada orang dengan kulit lebih gelap

Menurut gugatan class action tahun 2021, aplikasi oksigen darah di Apple Watch tidak berfungsi dengan baik untuk orang dengan warna kulit lebih gelap. Apple mengklaim bahwa mereka telah menguji aplikasi tersebut pada “berbagai jenis dan warna kulit,” tetapi para kritikus mengatakan bahwa perangkat teknologi tersebut masih belum dirancang dengan mempertimbangkan orang berkulit gelap.

Sumber: DALL·E 3, prompt: Marta M. Kania (https://www.linkedin.com/in/martamatyldakania/)

Zillow dalam real estat

Zillow, sebuah perusahaan real estat, meluncurkan Zillow Offers, sebuah program untuk membeli rumah dan segera menjualnya kembali, pada tahun 2018. CNN melaporkan bahwa Zillow telah membeli 27,000 rumah sejak peluncurannya pada April 2018, tetapi hanya menjual 17,000 pada akhir September 2021. Zillow mengatakan bahwa kesalahan bisnis ini disebabkan oleh penggunaan kecerdasan buatan. Algoritma tersebut salah memprediksi harga rumah, menyebabkan Zillow membayar lebih untuk pembelian. Meskipun perusahaan segera menghentikan program tersebut, mereka harus memberhentikan 25 persen dari stafnya. Dengan tidak sengaja membeli rumah dengan harga lebih tinggi dari perkiraan harga jual di masa depan, perusahaan mencatat kerugian sebesar $304 juta.

Chatbot rasis Microsoft

Pada tahun 2016, Microsoft merilis chatbot AI eksperimental bernama Tay. Chatbot ini seharusnya belajar dengan berinteraksi dengan pengguna Twitter (sekarang X). Dalam waktu 16 jam, Tay “belajar” untuk memposting tweet yang ofensif, rasis, dan seksis. Pengguna Twitter dengan sengaja memprovokasi bot tersebut, yang tidak memiliki mekanisme keamanan yang tepat yang digunakan dalam chatbot saat ini, seperti ChatGPT, Microsoft Copilot, dan Google Bard. Microsoft dengan cepat menonaktifkan bot tersebut dan meminta maaf atas insiden itu, tetapi Tay adalah salah satu kesalahan bisnis terbesar Microsoft.

Sebuah kesalahan chatbot juga terjadi pada Google, yang merilis bot bernama Meena pada tahun 2020. Meta (sebelumnya Facebook) juga gagal menghindari kesalahan serupa. Pada bulan Agustus 2022, mereka meluncurkan chatbot AI baru bernama BlenderBot 3, yang dirancang untuk berbicara dengan orang-orang dan belajar dari interaksi tersebut.

Dalam beberapa hari setelah peluncurannya, ada laporan tentang chatbot yang membuat pernyataan ofensif, rasis, dan faktual yang salah dalam percakapan. Misalnya, ia mengklaim bahwa Donald Trump memenangkan pemilihan presiden AS 2020, menyebarkan teori konspirasi anti-Semit, dan mengkritik Facebook.

Jika Anda menyukai konten kami, bergabunglah dengan komunitas lebah sibuk kami di Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.