Automaticadagi besh sahifa
1983-yilda Automatica jurnali Lisanne Bainbridgening «Ironies of Automation» maqolasini chop etdi. 19-jilddagi besh sahifa. Maqola sanoat korxonalarida jarayonlarni boshqarish haqida, misollarning bir qismi samolyot kabinasidagi avtomatikadan olingan. Ofis va mijozlar bilan yozishmalar haqida unda bir ogʻiz ham soʻz yoʻq.
Maqolaning savoli: mashina inson ishini olib qoʻyganda unga nima boʻladi. Javob noqulay chiqdi. Boshqaruv tizimi qanchalik mukammal boʻlsa, operatorning hissasi shunchalik muhimroq boʻlib chiqishi mumkin. Oldindan koʻzda tutilgan hamma narsani tizim oʻzi bajaradi. Insonga koʻzda tutilmagan narsa qoladi, u esa kamdan-kam yuz beradi.
2021-yilda Bainbridge maqolaning toʻliq matnini oʻz saytiga joylagan. Quyidagi iqtiboslar oʻsha yerdan olingan. Bu yerda va keyingi oʻrinlarda iqtiboslar tarjimasi bizniki.
Bot yengilini oladi
Muallifning 2021-yilgi versiyasida bu shunday yangraydi: «Vazifaning yengil qismlarini olib qoʻyib, avtomatlashtirish operator vazifasining qiyin qismlarini yanada qiyinroq qilishi mumkin» (Bainbridge, «Ironies of Automation»).
Jarayonni qoʻlda boshqargan operator qurilma oddiy kunda oʻzini qanday tutishini bilardi va ogʻishni mayda belgilardan sezardi. Avtomatlashtirishdan keyin oʻsha odam hech narsa sodir boʻlmayotgan asboblarga qarab oʻtiradi. Bainbridge diqqat tadqiqotlari natijasini eslatadi: hatto juda motivatsiyali odam ham deyarli hech narsa oʻzgarmaydigan manbaga taxminan yarim soatdan ortiq diqqatini qarata olmaydi.
Endi qurilmani doʻkon yoki klinikaning Telegram-akkaunti bilan almashtiring. Bot takrorlanadigan narsalarga javob beradi: qancha turadi, qayerda joylashgansiz, oʻlcham bormi, qachon boʻsh. Bunday savollarni botga birinchi boʻlib aynan bir xil boʻlgani uchun topshirishadi.
Menejerga boshqa narsa qoladi. Mijozga boshqa tovar olib kelishgan. Narxlar roʻyxatida yoʻq narsani soʻrashmoqda. Doimiy xaridor chegirma soʻrayapti. Kimdir ketma-ket uchinchi xabarni bosh harflar bilan yozmoqda. Ilgari bu suhbatlar yuzlab oddiy suhbatlar bilan aralash kelardi va menejer kun voqealaridan xabardor edi: bugun nima haqida soʻrashyapti, omborda nima tugadi, mijozlar qanday kayfiyatda yozishyapti. Endi u chatni u yerda vaziyat allaqachon yomon boʻlganda ochadi.
Qiyini qoladi, koʻnikma ketadi
Oʻsha maqolada Bainbridge avtomatlashtirilgan tizimda inson ishi qayerdan kelib chiqishini ikkinchi kinoya deb ataydi: «operatorni olib tashlashga urinayotgan loyihachi baribir unga qanday avtomatlashtirishni oʻylab topa olmagan vazifalarni qoldiradi».
Demak, inson ishini hech kim loyihalamagan. U qoldiq boʻlib chiqqan. Chat-botda bu shunday koʻrinadi: ssenariy va bilimlar bazasiga sigʻmagan hamma narsa sukut boʻyicha «menejerga» ketadi. Agar shunday qoldirilsa, menejer uddalay oladimi va bunga uning qancha daqiqasi bor — buni hech kim oldindan hisoblamaydi.
Qoldiqqa koʻnikma masalasi qoʻshiladi. Bainbridge yozishicha, jismoniy koʻnikmalar ishlatilmasa, yomonlashadi. Ishlab chiqarish uchun u operatorga har smenada biroz qoʻlda boshqarishda ishlashni berishni, agar bu imkonsiz boʻlsa, uni simulyatorda mashq qildirishni taklif qiladi.
Savdo menejerlari boʻyicha oʻlchovlarimiz yoʻq. Bizning taxminimiz shunday: yarim yil oddiy savollarga javob bermagan odam narxlar roʻyxatini, yetkazib berish shartlarini va oddiy mamnun mijozlar qanday yozishini yomonroq eslaydi. Qiyin holat esa bularning hammasini birdaniga talab qiladi.
2024-yilda tadqiqotchilar arXiv saytiga «Ironies of Generative AI» ishini joylashdi, unda oʻsha kinoyalar generativ modellar misolida tahlil qilingan. 41 yildan keyin argument yana kerak boʻlib qoldi.
Insonsiz boshi berk koʻcha: DPD va Taco Bell
Insonga topshirish umuman boʻlmasa nima boʻlishini ikkita ommaviy voqeadan koʻrish mumkin.
2024-yil yanvari, Britaniyaning DPD yetkazib berish xizmati. Mijoz — londonlik pianinochi va dirijyor — chat-botdan uni inson bilan bogʻlashni soʻradi. Bot buni qila olmasligini aytdi. Shunda mijoz bot bilan oʻynashni boshladi va undan soʻkinish, DPD qanchalik foydasiz ekani haqida sheʼr hamda bu dunyodagi eng yomon yetkazib berish xizmati degan iborani oldi. TIME maʼlumotlariga koʻra, u X tarmogʻiga joylagan yozishma skrinshotlari 1,3 mln koʻrish va 20 000 dan ortiq layk toʻplagan. DPD xato 18-yanvardagi tizim yangilanishidan keyin paydo boʻlganini, sunʼiy intellekt moduli darhol oʻchirilgani va takomillashtirilayotganini aytdi. Kompaniya soʻzlariga koʻra, bungacha u bir necha yil chatda muvaffaqiyatli ishlagan.
Ikkinchi voqea AQShdan. Taco Bell avtomobillar uchun 500 dan ortiq buyurtma berish oynasida buyurtmalarni qabul qilishga ovozli sunʼiy intellektni qoʻydi. 2025-yil avgustida TechCrunch 18 000 stakan suvga berilgan buyurtmani eslatib oʻtdi: mijoz shu yoʻl bilan sunʼiy intellektni chetlab, tirik xodimga yetib bormoqchi boʻlgan. Tarmoqning raqamli texnologiyalar boʻyicha direktori Dane Mathews The Wall Street Journal nashriga tizim haqida shunday degan: «Baʼzan u meni ranjitadi, baʼzan esa chinakamiga hayratda qoldiradi». Tarmoq sunʼiy intellektdan voz kechmadi. Mathews soʻzlariga koʻra, franshiza egalariga qaysi restoranda va qaysi soatlarda ovozli yordamchini qoldirish, qayerda esa uni kuzatib, kerak boʻlganda aralashish kerakligini maslahat berishadi.
Ikkala voqeada ham mijoz insonga yetib bora olmaganidan keyin botni buzishga kirishgan. Agar insonga eshik yopiq boʻlsa, mijoz aylanib oʻtish yoʻlini oʻzi qidiradi va kompaniya bu haqda yangiliklardan bilib oladi.
Liniya ustidagi shnur
Toyota kompaniyasida avtomatni toʻxtatish huquqi ishlab chiqarish tizimining oʻziga oʻrnatilgan. Bu tamoyil jidoka deb ataladi. Toyota rasmiy saytida u «inson ishtirokidagi» avtomatlashtirish deb ataladi. Ogʻish yuz berganda — xoh uskuna nosozligi, xoh yaroqsiz mahsulot, xoh ishning kechikishi boʻlsin — mashina muammoni oʻzi aniqlaydi va toʻxtaydi. Yoki operator shnurni tortib, liniyani oʻzi toʻxtatadi. Bu yerda toʻxtash avariya emas, odatiy funksiya.
Bot uchun bunday shnur ikki qismdan iborat. Bot oʻzi toʻxtab, insonni chaqira oladi. Inson esa istalgan paytda tizimni butunlay oʻchirmasdan suhbatni oʻz qoʻliga oladi.
Ikkinchi savol ham bor: tezlik. 1960-yilda Norbert Wiener Science jurnalida shunchalik tez va qaytarib boʻlmas tarzda harakat qiladigan mashinalar haqida yozgandiki, ularning harakati tugaguncha aralashishga ulgurib boʻlmaydi. Bunday mashinalar uchun, deb yozgan u, ularga solingan maqsad «bizning chinakam istagimizdagi maqsad, uning shunchaki yorqin taqlidi emas» ekaniga toʻla ishonch hosil qilish kerak (Wiener, Science, 1960).
Botning chatdagi muvaffaqiyatsiz javobini keyingi xabar bilan tuzatish mumkin. Baza boʻyicha ommaviy xabar yuborishni bunday tuzatib boʻlmaydi: kimdir narxdagi xatoni payqaguncha xabar allaqachon hammada boʻladi. Shuning uchun ommaviy xabarni tekshirish yuborishdan oldin qoʻyiladi.
Insonga topshirishni qanday loyihalash kerak
Birinchi liniya boti uchun xulosa shunday: insonga topshirish boshida, ssenariy bilan birga loyihalanadi. Agar uni oxiriga qoldirsangiz, insonga Bainbridge yozgan oʻsha qoldiq tegadi.
Topshirish sabablari oldindan, roʻyxat qilib yoziladi. Masalan:
- mijoz toʻgʻridan-toʻgʻri inson soʻraydi yoki bir xil savolni uchinchi marta beradi;
- gap narxlar roʻyxatida yoʻq pul haqida: chegirma, qaytarish, muddatli toʻlov;
- allaqachon toʻlangan buyurtma boʻyicha shikoyat;
- mijoz toʻlashga tayyor yoki shoshyapti;
- bot oʻqiy olmaydigan foto yoki fayl keldi.
Bot mijozga nima boʻlayotganini aytadi: u bot ekanini, suhbat insonga topshirilganini va javobni qachon kutish kerakligini. Agar bot shunchaki jim boʻlib qolsa, mijoz kutishi kerakmi yoki boshqa joyga yozishi kerakmi, bilmay qoladi.
Menejer suhbatni kontekst bilan birga oladi: mijoz nima soʻragan va bot nima javob bergan. Aks holda inson birinchi xabarida mijoz allaqachon yozgan narsani qayta soʻraydi. Botning soʻzlari uchun kim javob berishini alohida tahlil qilganmiz.
Inson chatni bitta harakat bilan oʻz qoʻliga oladi va bot bu chatda jim boʻladi. Menejerning koʻnikmasi maxsus qoʻllab-quvvatlanadi. Har smenadagi qoʻlda boshqarishning analogi: menejer muntazam ravishda tipik murojaatlarning bir qismiga oʻzi javob beradi yoki bot kun davomida bergan javoblardan tanlanmani oʻqiydi.
Hozir pilot bosqichidagi Telegram Business uchun sunʼiy intellektli avtojavob beruvchimiz Vallida buning bir qismi allaqachon ishlaydi. Agar egasi chatda oʻzi yozsa, Valli shu chatda ikki soat jim turadi. Issiq mijoz kartochkasida Vallini shu chatda 24 soat jim turishga majbur qiladigan tugma bor. Mijoz narxga rozi boʻlsa, hisob soʻrasa yoki shoshsa, Valli oʻz qoidalariga koʻra egasi ulanishini aytadi, egasiga esa mijoz xabari va Valli javobi bilan kartochka keladi. Uchrashuvlarni Valli oʻzi tasdiqlamaydi, buni egasi qiladi. Agar mijoz izohsiz foto yoki fayl yuborsa, Valli egasini chaqiradi: rasmlar va fayllar boʻyicha javob berishni u hozircha bilmaydi. Bot ekanini soʻrashsa, qoidalar unga yolgʻon gapirishni taqiqlaydi.
Biz nimani bilmaymiz
Bainbridge sanoat qurilmalari operatorlari va uchuvchilar haqida yozgan, til modellari haqida emas. Uning xulosalarini chat-botlarga koʻchirish — bizning analogiyamiz, maqolaning oʻzida bu yoʻq.
Birinchi liniya boti savdo menejerlarining koʻnikmalariga qanday taʼsir qilishi haqida oʻlchangan maʼlumotlarimiz yoʻq. Valli pilotida insonga topshirishlar statistikasi ham hozircha yoʻq.
DPD mijozining X tarmogʻidagi asl postini ochmadik, voqea va koʻrishlar soni TIME boʻyicha qayta hikoya qilingan. Dane Mathewsning soʻzlari The Wall Street Journal nashridagi intervyudan iqtibos keltirgan TechCrunch nashridan olingan; WSJ asl nusxasi pullik obuna ortida yopiq.
Bu chegarani butun loyiha davomida — jarayonni tanlashdan topshirishgacha — qanday oʻtkazishimiz «Sunʼiy intellekt yordamida biznesni avtomatlashtirish» sahifasida.
Botni kiruvchi murojaatlarga qoʻyishdan oldin u qaysi suhbatlarni insonga topshirishini yozib chiqing. Bizning bepul jarayon tahlilimizda bu alohida qator: 48 soat, qoʻngʻiroqsiz, bot va menejer oʻrtasidagi chegara ishga tushirishdan oldin yozib qoʻyiladi.
