Apakah selalu sepadan untuk menambahkan kecerdasan buatan ke dalam proses pengembangan produk? | AI dalam bisnis #55

Peran kecerdasan buatan dalam proses pengembangan produk

Kecerdasan buatan dapat mendukung banyak aspek dari proses desain dan implementasi produk baru. Seringkali ini adalah ide yang baik, dan manfaat utamanya meliputi:

• Riset pasar – mempercepat riset atau melakukannya dalam skala yang lebih besar dimungkinkan dengan mengotomatiskan tugas-tugas berulang, seperti analisis survei atau transkripsi wawancara, misalnya. Ini memungkinkan tim untuk fokus pada aspek yang lebih kreatif dan menantang dari pengembangan produk,
• Inspirasi baru – akses yang difasilitasi ke spektrum ide yang lebih luas adalah salah satu keuntungan utama dari AI generatif. Algoritma AI dapat mencari basis data besar untuk pola dan konsep yang tidak dikenal di luar pemikiran sebelumnya para desainer,
• Analisis data yang mendalam – pemahaman yang lebih baik tentang kebutuhan pelanggan target melalui pemrosesan data tentang perilaku, preferensi, dan motivasi pembelian mereka.

Tetapi kapan sebaiknya kita berpikir dua kali sebelum menggunakan kolaborasi AI?

Dalam sorotan: Tantangan tersembunyi dalam menerapkan AI

Meski kecerdasan buatan dalam proses pengembangan produk berarti banyak peluang baru, penerapannya tidak tanpa tantangan. Yang paling penting dari tantangan ini adalah:

• kebutuhan untuk melatih tim produk secara menyeluruh dan menyesuaikan proses kerja yang ada untuk integrasi dengan sistem AI. Ini bisa sulit di organisasi besar dan hierarkis yang diisi oleh spesialis yang terikat pada cara kerja tradisional,
• kekhawatiran tentang keamanan data pelanggan yang melatih algoritma AI. Untuk memanfaatkan fitur keamanan tambahan, perusahaan sering kali memerlukan perjanjian lisensi perusahaan yang dapat melebihi anggaran organisasi kecil. Itulah sebabnya perusahaan kecil kadang-kadang memilih untuk mengadopsi model akses terbuka dalam skala kecil seperti Llama 2, Vicuna, atau Alpaca. Memang, mereka memerlukan perangkat keras yang lebih kuat di perusahaan, tetapi mereka memberikan keamanan data. Ini karena model pembelajaran mesin bergantung pada informasi pribadi yang sensitif. Jika keamanan tidak diatur dengan benar, kebocorannya dapat memiliki konsekuensi bencana bagi citra perusahaan,
• kompleksitas yang meningkat dan difusi tanggung jawab untuk keputusan bisnis kunci yang melibatkan sistem AI. Siapa yang menanggung tanggung jawab finansial dan reputasi atas kesalahan sistem ini? Bagaimana memastikan pengawasan terhadap “kotak hitam” AI?

Jebakan kotak hitam. Kurangnya transparansi dalam keputusan AI

Salah satu kelemahan mendasar dari teknik pembelajaran mesin yang canggih, seperti jaringan saraf, adalah kurangnya transparansi dalam keputusan yang diambil. Sistem ini bertindak seperti “kotak hitam,” mengubah input menjadi hasil yang diinginkan tanpa dapat memahami logika yang mendasarinya.

Ini membuatnya sangat sulit untuk memastikan kepercayaan pengguna terhadap rekomendasi yang dihasilkan AI. Jika kita tidak memahami mengapa sistem menyarankan varian produk atau konsep tertentu, sulit untuk menilai kewajaran saran tersebut. Ini dapat menyebabkan ketidakpercayaan terhadap teknologi secara keseluruhan.

Perusahaan yang menggunakan kecerdasan buatan dalam pengembangan produk perlu menyadari masalah “kotak hitam” dan mengambil langkah-langkah untuk meningkatkan transparansi solusi mereka. Contoh solusi termasuk:

• visualisasi aliran data dalam jaringan saraf, atau
• penjelasan tekstual tentang keputusan yang diambil yang dihasilkan oleh algoritma tambahan.

AI dan etika. Bagaimana menghindari diskriminasi dan bias?

Masalah penting lainnya adalah potensi masalah etika yang terkait dengan AI. Sistem pembelajaran mesin sering kali bergantung pada data yang rentan terhadap berbagai jenis bias dan kurangnya representativitas. Ini dapat menyebabkan keputusan bisnis yang diskriminatif atau tidak adil.

Misalnya, algoritma rekrutmen Amazon tampaknya lebih memilih kandidat pria berdasarkan pola perekrutan historis perusahaan. Situasi serupa dapat terjadi saat mengembangkan aplikasi dengan pembelajaran mesin untuk:

• Menetapkan prioritas layanan pelanggan,
• Penargetan iklan,
• Menyarankan spesialis di area terdekat, atau
• Personalisasi saran produk.

Untuk menghindari masalah semacam itu, perusahaan perlu menganalisis dengan cermat dataset yang mereka gunakan untuk representasi yang memadai dari berbagai kelompok demografis dan secara teratur memantau sistem AI untuk tanda-tanda diskriminasi atau ketidakadilan.

Batasan algoritma. Kecerdasan buatan dalam proses

Kecerdasan buatan dapat mendukung proses kreatif, mencari ide, dan mengoptimalkan solusi. Namun, masih ada sedikit perusahaan yang memilih untuk sepenuhnya mempercayai AI. Menggunakan kecerdasan buatan dalam proses pembuatan konten menawarkan peluang luar biasa, tetapi keputusan akhir tentang penerbitan atau pemeriksaan informasi yang terkandung dalam materi yang dihasilkan harus dibuat dengan masukan manusia.

Oleh karena itu, desainer dan manajer produk perlu menyadari batasan teknologi AI dan menganggapnya sebagai dukungan daripada sumber otomatis dari solusi siap pakai. Keputusan desain dan bisnis kunci masih memerlukan kreativitas, intuisi, dan pemahaman mendalam tentang pelanggan, yang tidak dapat disediakan oleh algoritma saja.

Sumber: DALL-E 3, prompt: Marta M. Kania (https://www.linkedin.com/in/martamatyldakania/)

Pastikan kontrol dan kepatuhan hukum

Untuk meminimalkan risiko AI, perusahaan perlu menerapkan mekanisme pengawasan dan kontrol yang tepat untuk sistem ini. Ini termasuk, tetapi tidak terbatas pada:

• Verifikasi kebenaran dan sumber informasi yang dihasilkan oleh model AI sebelum penggunaannya secara praktis,
• Audit algoritma pembelajaran mesin untuk bias, ketidakpastian prediksi, dan transparansi keputusan,
• Menetapkan komite spesialis atau etika untuk mengawasi desain, pengujian, dan penerapan sistem AI di perusahaan,
• Mengembangkan pedoman yang jelas tentang aplikasi AI yang dapat diterima dan batasan intervensi sistem ini dalam proses bisnis dan keputusan desain,
• Melatih desainer untuk menyadari batasan dan jebakan untuk menghindari ketergantungan yang terlalu tidak kritis pada indikasinya.

Ringkasan

Secara ringkas, kecerdasan buatan tidak diragukan lagi membuka prospek menarik untuk mengoptimalkan dan mempercepat desain serta implementasi produk baru. Namun, integrasinya dengan sistem dan praktik yang sudah ada tidak tanpa tantangan, beberapa di antaranya bersifat fundamental – seperti ketidakpastian dan kurangnya transparansi prediktif.

Untuk memanfaatkan sepenuhnya potensi AI, perusahaan harus memperlakukannya dengan jumlah kehati-hatian dan kritik yang tepat, memahami batasan teknologi tersebut. Sangat penting juga untuk mengembangkan kerangka etika dan prosedur kontrol yang meminimalkan risiko yang terkait dengan penerapan algoritma canggih ke dalam proses bisnis nyata. Hanya dengan cara itu AI dapat menjadi pelengkap yang berharga dan aman bagi kreativitas dan intuisi manusia.

Jika Anda menyukai konten kami, bergabunglah dengan komunitas sibuk kami di Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.