มุมมองของ "iskin" ในการจัดการมนุษยชาติ

2024 ผู้เขียน: Seth Attwood | [email protected]. แก้ไขล่าสุด: 2023-12-16 16:17

จะเกิดอะไรขึ้นหากคุณไว้วางใจปัญญาประดิษฐ์ในการควบคุมผู้คน ในกฎหมายของเรา 99% ของกฎหมายขัดแย้งกัน ตามหลักเหตุผลน่าจะเกิดการล่มสลายของอำนาจและการหยุดชะงักของระบบควบคุม …

ทีนี้ลองนึกถึงสถานที่ที่ ปัญญาประดิษฐ์(ต่อไปนี้ - iskin) จะใช้เวลาในชีวิตของเราเมื่อ (ถ้า) มันถูกคิดค้นและนำไปใช้ ฉันแนะนำว่าอย่าเถียงเกี่ยวกับธรรมชาติภายในของมัน ให้เป็นเพียงอัลกอริธึมขั้นสูงที่มีความสามารถในการทำงานกับ Big Data และสามารถคัดลอกรูปแบบพฤติกรรมของคนจริงได้ในทำนองเดียวกัน แต่ถ้าคุณต้องการ ให้สิ่งที่กำลังพูดถึงเป็นคนจริง ตามที่คุณเข้าใจมันเอง

คำถามหลักที่นี่คือ เราจะนำ Hammer of Thor ไปใช้ที่ไหนเมื่อได้รับแล้ว? และโดยหลักการแล้วไม่ต้องสงสัยเลยว่ามันสามารถทำได้ เราสามารถทำเครื่องเจียรดิจิทัล อัลกอริธึมการเรียนรู้ด้วยตนเองได้เช่นกัน สะสมวันสำคัญ - ทุกอย่างอยู่ที่นั่น

พูดในการจัดการระบบทางเทคนิคเช่นแต่ละหน่วยขนส่ง? - กมล … ทำไมต้องสร้างระบบที่ชาญฉลาดและซับซ้อนเพื่อไว้วางใจในสิ่งที่ม้าสามารถจัดการได้? จะมีเพียงพอและอัลกอริธึมดั้งเดิมบนโปรเซสเซอร์สำหรับ 10 bucks ต่อถัง ปัญหากับการจัดการการขนส่งอยู่ที่การรับข้อมูลและในประเด็นทางจริยธรรมเท่านั้น แล้วไง? คิดถึงสิบห้าวินาที

ในความคิดของฉันมีเพียงหนึ่งเดียว ของจริงสำหรับ iskin คือการจัดการคน … แม่นยำยิ่งขึ้นกระบวนการที่ผู้คนมีส่วนร่วม ไม่มีประเด็นในการแลกเปลี่ยนด้วยเหตุผลหลายประการ ทุกคนพร้อมที่จะบริหารจัดการคนโดยไม่ต้องอบรมสั่งสอนพิเศษ ตัวอย่างเช่น เราไว้วางใจให้ทุกคนจัดการลูกของเราเอง นอกจากนี้ เกือบทุกคนในทีมมีประสบการณ์การจัดการอย่างน้อย อย่างน้อยในระดับ "โยนพลั่วเข้าไปในเปลอีก 1 อันแล้วเราจะขนไป" ถ้าทุกคน โดยหลักการแล้วบุคคลมีความสามารถในการจัดการคนได้ แล้ว AI จะต้องสามารถทำเช่นนี้ได้ มิฉะนั้น จะเป็นสติปัญญาที่บกพร่องทางจิตใจ

อย่างไรก็ตาม ผลลัพธ์ของการบริหารคนก็ยังห่างไกลจากอุดมคติ การควบคุมที่แท้จริงคือชุดของข้อผิดพลาดและความไม่ถูกต้อง ยิ่งไปกว่านั้น จำนวนข้อผิดพลาดแทบไม่ขึ้นอยู่กับระดับของผู้จัดการ แต่เป็นค่าคงที่ที่แน่นอน เป็นเพียงว่าหัวหน้าของรถตักทำผิดพลาดเล็กน้อยและผู้ว่าราชการได้รับสิทธิ์ที่จะทำผิดพลาดที่ก่อให้เกิดผลร้ายแรง เราเข้าใจสิ่งนี้ “เราควรทำผิด” เป็นผลหลักของการสะท้อนของโลกรอบข้างรวมทั้งตัวเราเอง

และตอนนี้ ในมือของเรามี AI ที่ควร "ทำเช่นนั้น" และเราจะนำไปใช้ทันที เพราะปัญหาที่แก้ได้ในเชิงทฤษฎีคือปัญหาที่สำคัญที่สุด และชัมชุตที่มีการศึกษาสามชั้นก็สามารถขับรถบรรทุกได้

หากคุณเห็นด้วยกับฉันในเรื่องนี้ เรามานำเสนอการทำงานของผิวหนังเทียมที่ตั้งใจจะจัดการกันต่อไป เขาควรทำหน้าที่ของใคร เขาควรแทนที่ใครหรืออย่างน้อยก็เสริมความแข็งแกร่งให้กับการตัดสินใจของเขา

เป็นที่ชัดเจนว่าสิ่งเหล่านี้จะเป็นข้าราชการ (ทั้งในราชการและในธุรกิจ) เจ้าหน้าที่ทำการตัดสินใจ เจ้าหน้าที่เป็นที่ยอมรับในทุกระดับความสามารถ เจ้าหน้าที่มีความสำคัญและจำเป็นในปัจจุบันเพราะการตัดสินใจจะไม่เกิดขึ้น แต่มีจุดหนึ่ง

ลองดูผู้จัดการทุกคน (นั่นคือเจ้าหน้าที่ทุกคน) จากมุมมองของเนื้อหาตามตัวอักษรของกิจกรรมภาคปฏิบัติของเขา แต่ไม่ใช่ในแง่ของแรงจูงใจของเขา - ต้นแบบของแรงจูงใจอย่างที่เป็นอยู่ไม่ควรเป็น เจ้าหน้าที่อนุมัติธุรกรรมหรือยกเลิกธุรกรรมที่ได้รับอนุมัติจากเจ้าหน้าที่คนอื่น

ในเครื่องจักรที่เหมาะสมที่สุด ธุรกรรมทั้งหมดต้องได้รับการอนุมัติโดยไม่มีเงื่อนไขและไม่สามารถยกเลิกธุรกรรมได้ เนื่องจากก่อนหน้านี้ได้รับการอนุมัติตามกฎหมาย ปัจจัยสำคัญในระบบนี้คือการทำธุรกรรมถูกส่งไปยังเจ้าหน้าที่จาก "กล่องดำ" เพื่อประกอบการพิจารณา เขาไม่ได้รับคำอธิบายว่าเหตุใดจึงควรทำธุรกรรมดังกล่าวหรือเหตุใดจึงได้รับการอนุมัติจากเจ้าหน้าที่คนอื่น ระบบควบคุมถูกสร้างขึ้นดังนี้ ข้างต้นเป็นคำสั่งในรูปแบบของคำสั่งเพื่อทำธุรกรรมจำนวนหนึ่ง

โปรดทราบว่าโครงสร้างทางอุดมการณ์ของระบบดังกล่าวไม่ได้บอกเป็นนัยถึงความเป็นไปได้ในการยกเลิก (ไม่อนุมัติ) ธุรกรรมที่ได้รับจากด้านบนจาก "กล่องดำ" แต่ในทางปฏิบัติ มีความเป็นไปได้เสมอ และเธอเป็นผู้จัดหาสิ่งที่สำคัญที่สุดสองประการ: อำนาจของเจ้าหน้าที่คนใดคนหนึ่งและการกักเก็บอำนาจดังกล่าว

ให้ฉันอธิบายว่าความผิดพลาดใด ๆ (ที่เรากล่าวไว้ข้างต้นว่าเป็นสิ่งที่หลีกเลี่ยงไม่ได้และถาวร) สามารถละลายได้ในการต่อต้านมวลชนข้าราชการที่อยู่เบื้องหลัง จากนั้นผลของความผิดพลาดจะลดลง

อย่างไรก็ตาม ในระบบการจัดการในอุดมคติทางทฤษฎี ไม่ควรมีข้อผิดพลาด ด้วยเหตุนี้ บทบาทของเจ้าหน้าที่จึงลดลงเหลือเพียงการอนุมัติธุรกรรมอย่างเป็นทางการ ซึ่งเขาไม่สามารถอนุมัติได้ เนื่องจากเป็นสิ่งที่ถูกต้อง นั่นคือไม่จำเป็นต้องมี ดังนั้นคำถามจึงเดือดลงไปที่สัญญาณการจัดการเริ่มต้น หากถูกต้องก็ไม่มีเหตุผลในระดับล่างทั้งหมด

ดังนั้น ตามทฤษฎีแล้ว งบประมาณรวมของรัฐน่าจะใช้ได้ เมื่อได้รับการยอมรับ แสดงว่าสาระสำคัญของเศษส่วนทั้งหมดถูกเปิดเผย เส้นเลือดฝอยแต่ละอันจะต้องได้รับส่วนที่กำหนดของเลือดและในการตอบสนอง - ผลลัพธ์ที่ตั้งใจไว้ ใช่ที่ด้านล่างสุดมี "แต่เราไม่ได้ส่งคอนกรีตตรงเวลาและด้วยเหตุนี้ … " แต่ขอโทษที่นี่คือที่ด้านล่างสุดและอุปกรณ์ควบคุมประกอบด้วยหลายระดับที่ไม่สัมผัสคอนกรีต เลยพวกเขาดำเนินการกับธุรกรรม ฉันเข้าใจว่าในระดับกลาง "คอนกรีตไม่ได้ถูกส่ง" ดูแตกต่างเช่น "รองประธานของการก่อสร้างคอสโมโดรมขโมย 100 ล้านดังนั้น … " ฉันกำลังพูดถึงโครงการในอุดมคติที่นี่

กลับมาสู่ผิวในอุดมคติของเรากันเถอะ ท้ายที่สุด ในงานนี้ เขาต้องแก้ปัญหาเดียวกัน - การอนุมัติหรือห้ามการทำธุรกรรม และเขาสามารถทำได้! ตอนนี้เขาเพียงคนเดียวเท่านั้นที่จะสามารถแทนที่การจัดการทุกระดับได้ในคราวเดียว ท้ายที่สุด ถ้าเขาอนุมัติธุรกรรมระดับรัฐมนตรีขนาดใหญ่ แทนที่รัฐมนตรี การตัดสินใจของเขาควรได้รับการยอมรับว่าถูกต้อง และรวมถึงการวิเคราะห์การกระจายเพิ่มเติมทั้งหมดของธุรกรรมขนาดใหญ่จนถึงการชำระเงินของ IP Pupkin เพื่อซ่อมแซมระเบียงของโรงพยาบาลจิตเวชใน Kineshma

ดังนั้นห่วงโซ่ของเจ้าหน้าที่ทั้งหมดที่จำเป็นต้องอนุมัติการทำธุรกรรมในระดับที่ต่ำกว่านั้นสามารถแทนที่ได้อย่างปลอดภัยด้วยอัลกอริธึม AI เดียวกัน ปัญหาได้รับการแก้ไขแล้ว จนถึงด้านล่าง AI ของเราไม่จำเป็นต้องใช้เพื่อแทนที่ห่วงโซ่ทั้งหมดด้วยซ้ำ AI เพียงแค่ยกเลิกความจำเป็น การตัดสินใจของเขาเป็นความจริงเพราะมันถูกต้อง และรวมวิธีแก้ปัญหาสำหรับเศษส่วนทั้งหมดทันที

ข้อสังเกต. เจ้าหน้าที่ผู้ใต้บังคับบัญชาในโลกแห่งความเป็นจริงของเราสามารถฉลาดกว่าคนที่สูงกว่าได้จากนั้นเขาจะก่อวินาศกรรมการตัดสินใจของหัวหน้าแล้วเขาก็จะช่วยเขา เป็นเช่นนี้เสมอ เจ้าหน้าที่ที่มีอยู่ทั้งหมดเข้ามาแทนที่อดีตผู้บังคับบัญชา ยกเว้นระดับเริ่มต้น แต่ในกรณีนี้ การแข่งขันเป็นไปไม่ได้ อิสกินหนึ่งคนตัดสินใจทุกอย่างในห่วงโซ่ทั้งหมดด้วยตัวเขาเอง เขาไม่สามารถโต้แย้งในตัวเองได้

นอกจากนี้. ในระบบการกำกับดูแลของเรา มีศาลซึ่งเราได้ให้อำนาจในการยกเลิกธุรกรรมใดๆ ของเราและดำเนินการตามศาล โดยไม่คำนึงถึงความคิดเห็นของเราเกี่ยวกับพวกเขา (การนำฆาตกรเข้าคุกก็เป็นธุรกรรมที่มีกฎเกณฑ์เช่นกัน ผู้พิพากษาที่นี่เป็นเจ้าหน้าที่ที่อนุมัติหรือยกเลิกธุรกรรมที่มาถึงเขาตามที่กำหนดจากกล่องดำ) ถ้าคนงี่เง่าของเราดี เขาก็ดีกว่าเจ้าหน้าที่ เพราะเรามอบหมายให้เขาอนุมัติหรือยกเลิกธุรกรรมสำหรับพวกเขา (สำหรับเรา) ดังนั้นเขาจึงดีกว่าผู้พิพากษา มิฉะนั้น ปรากฎว่าการตัดสินใจของ iskin สามารถท้าทายและยกเลิกโดยผู้คน และถ้าคนยอมรับก็ยอมรับว่า AI แย่กว่าคน แล้วเขาจะเข้ามาแทนที่เจ้าหน้าที่บนพื้นฐานอะไร?

บทสรุป. Iskin จะไม่ถูกตัดสินเช่นกัน อีกครั้ง. ถ้ามนุษย์ของคุณเขียนอัลกอริธึมที่ดีที่สุดของคุณ รู้ว่ามันดีมากจนคุณมอบอำนาจให้ตัวเอง คุณจะไม่สามารถเขียนอัลกอริธึมที่ดีไปกว่านั้นเพื่อที่อัลกอริธึมตัดสินการตัดสินใจครั้งแรก คุณจะใส่อัลกอริทึมที่ดีที่สุดของคุณทั้งในฐานะผู้จัดการและในฐานะผู้ตัดสิน แม่นยำยิ่งขึ้นผู้พิพากษาจะหายไป คุณจะต้องให้พลัง AI นี้กับคุณอย่างเต็มที่

อย่างไรก็ตาม กล่องดำดั้งเดิมซึ่งข้อมูลเริ่มต้นสำหรับการควบคุมมาที่ ISK นั้นสามารถแปลงเป็นดิจิทัลได้เช่นกัน และยังต้องทำให้เป็นดิจิทัล งบประมาณรวมควรจะเหมาะสมที่สุด และเขาก็ทำเช่นกัน

อีกสักครู่ หรืออาจวางคนไว้เหนือผู้ที่จะควบคุมการตัดสินใจของเขาเพื่อไม่ให้ความผิดพลาดที่อาจเกิดขึ้นเนื่องจากความไร้มนุษยธรรมของเขาเช่นไม่เกิดขึ้น? - จากนั้นเจ้าหน้าที่ทั้งหมดจะคงตำแหน่งและอำนาจของตนไว้ พวกเขาจะได้รับสิทธิ์ในการยกเลิกธุรกรรมที่ได้รับอนุมัติจาก ISK หรืออนุมัติรายการที่ยกเลิก อนิจจามันดูไม่จริง Iskin จะพิมพ์เหตุผลที่อยู่เบื้องหลังการตัดสินใจของเขา และบุคคลจะไม่สามารถหักล้างตรรกะที่เป็นทางการด้วยความรู้สึกหรือความสนใจของเขา แม้แต่ในกรณีนี้ หากเจ้าหน้าที่ที่มีชีวิตติดอยู่กับการแสดงแต่ละครั้ง (อันที่จริงแล้วเป็นการกระทำเพียงครั้งเดียว) พวกเขาจะไม่สามารถต้านทานเขาได้

ขออภัยที่ทำให้สับสน มีความคิดมากมาย และความยาวของข้อความก็เพิ่มขึ้นอย่างไม่สามารถแก้ไขได้

เมื่อเปิด ISK จะเกิดการยุบทั้งหมด ไม่ ฉันเข้าใจว่าในตอนแรกพวกเขาขับเขาในโหมดทดสอบ แต่นี่จะเป็นการดูหมิ่น เพราะเมื่อนั้นจำเป็นต้องเลียนแบบสังคมทั้งหมด ด้วยการเชื่อมโยงทั้งหมดเข้าด้วยกัน ไม่ใช่แบบจำลองที่เรียบง่าย แต่เครื่องนวดข้าวแบบดิจิทัลไม่สามารถทำได้

จากนั้นจะเปิดตัวในโหมดจำกัดในพื้นที่ระดับการใช้งานแบบมีเงื่อนไข บั๊ก การดีบัก การเปิดตัวใหม่และการผลิต?

แต่ไม่ช้าก็เร็วริบบิ้นสีแดงจะถูกตัดและผู้คนจะสามารถควบคุมรถได้อย่างเต็มกำลัง (ด้วยมือบนสวิตช์)

และคุณรู้ไหมว่าจะเกิดอะไรขึ้น? Iskin จะยุติการทำธุรกรรมทั้งหมดโดยสิ้นเชิง ตรรกะ "ถ้า-แล้ว" จะขัดแย้งกับบรรทัดฐานด้านกฎระเบียบหลายล้านฉบับในกฎหมายปัจจุบัน ซึ่งขัดแย้งกันเองหลายหมื่นครั้ง ฟินิต้า. รถไฟของเราจะหยุด การจ่ายเงินสำหรับกระป๋อง saury ในซูเปอร์มาร์เก็ตจะไม่ทำงาน ทุกคนจะถูกตั้งข้อหาทันทีในความผิดและอาชญากรรมหลายอย่างที่สามารถส่งไปยังเจ้าหน้าที่ได้ แต่ทุกคนในทางการจะถูกไล่ออกและพิจารณาคดีทันที คำตัดสินของศาลจะออกข้อเรียกร้องทันที นัดใหญ่ ทุกอย่างเขียนถึงคุณ โอเค นี่คือสิ่งเล็กน้อยแต่พวกเขาจะไม่สามารถโอนเงินเดือนของคุณได้เช่นกัน เนื่องจากสำนักงานเป็นหนี้ภาษี และเกวียนจะปรับคุณ

พูดเกินจริง? ไม่. การเปิดตัวครั้งแรก (ด้วยมือบนสวิตช์) จะถูกควบคุม ทดสอบสอง ทดสอบยี่สิบสอง … และวันหนึ่งมันจะถูกเปิดใช้งานอย่างเต็มรูปแบบราวกับว่ามันผ่านการทดสอบเต็มรูปแบบ แล้ว … และเราจะปลดเจ้าหน้าที่ อาสาสมัคร จะช่วยสถานการณ์

เป็นไปได้ไหมที่จะหลีกเลี่ยงผลที่น่าเศร้าเช่นนั้น? - แน่นอน คุณสามารถลองได้ เมื่อต้องการทำเช่นนี้ ต้องทำหลายสิ่ง ทำลาย 99% ของกฎหมาย รีไซเคิล 1% ที่เหลือ โดยไม่ต้องเททารกออกด้วยน้ำ (สิ่งเหล่านี้มักจะทำหลังจากการปฏิวัติเต็มรูปแบบด้วยสงครามกลางเมืองที่เต็มเปี่ยม จะทำอย่างไรในยามสงบ - ฉันไม่มีความคิด) นอกจากนี้ควรปรับปรุงศีลธรรม ในแง่ของการขโมยกระดาษจากสำนักงาน (หรือการนอกใจภรรยาของเขา) เป็นเรื่องที่ยอมรับได้อย่างสมบูรณ์ (สะท้อนอยู่ในกฎหมาย) หรือไม่ก็กำหนดเวลาโดยสิ้นเชิง ศีลธรรมนี้ต้องปรับปรุงในจิตใจของสังคม มิฉะนั้นจะเริ่มตัดสายเคเบิลออปติคัลซึ่งมีราคาถูก เรียบง่าย และมีประสิทธิภาพในการต่อต้าน AI อีกทางเลือกหนึ่งคือการโยน iskin นี้ให้กับพันธมิตรที่มีแนวโน้ม ปล่อยให้เขาตัดมือของเขาเอง และแน่นอน ชนชั้นสูงไม่ควรจะไม่สะดวก หากพวกเขาทำไม่ได้ พวกเขาก็จะใช้มันเป็นโอกาสสุดท้าย

ฉันไม่ได้พยายามเกลี้ยกล่อมให้คุณพังคอมพิวเตอร์ เราจะไม่ไปไหนจากไอสกิน เขาจะแซงเราเราจะต้องมีส่วนร่วมกับเขา ลองทำความเข้าใจกับสิ่งที่เราต้องต่อสู้กับโชคชะตาของเรา (กับใคร)