1. หุ่นยนต์มิอาจกระทำการอันตรายต่อผู้ที่เป็นมนุษย์ หรือนิ่งเฉยปล่อยให้ผู้ที่เป็นมนุษย์ตกอยู่ในอันตรายได้
(A robot may not harm a human being, or, through inaction, allow a human being to come to harm.)
2. หุ่นยนต์ต้องเชื่อฟังคำสั่งที่ได้รับจากผู้ที่เป็นมนุษย์ เว้นแต่คำสั่งนั้นๆ ขัดแย้งกับกฎข้อแรก
(A robot must obey the orders given to it by human beings, except where such orders would conflict with the First Law.)
3. หุ่นยนต์ต้องปกป้องสถานะความมีตัวตนของตนไว้ ตราบเท่าที่การกระทำนั้นมิได้ขัดแย้งต่อกฎข้อแรกหรือกฎข้อที่สอง
(A robot must protect its own existence, as long as such protection does not conflict with the First or Second Law.)
“ผม ไม่เห็นเข้าใจเลย?”
ทั้งบริเวณตกอยู่ในความเงียบไปพักใหญ่
“ทำไม?”
“ก็ทำไมต้องมีตั้งสามข้อ มีข้อเดียวก็พอ”
ตกอยู่ในความเงียบงันอีกครั้ง เงียบจนได้ยินเสียงวิ้งๆในหู
“ข้อเดียว อย่างไร?”
“หุ่นยนต์ต้องเชือฟังคำสั่งของมนุษย์ โดยที่ไม่ทำร้ายมนุษย์ หรือทำให้มนุษย์ตกอยู่ในอันตราย”
“แล้วเรื่องการปกป้องตนเองล่ะ”
“ถ้ามันเป็นเหตุการณ์ปกติ มันก็เป็น defense mechanisms(ปฎิกิริยาป้องกันตนเอง) พื้นฐานอยู่แล้ว แต่ถ้าเป็นคำสั่งจากมนุษย์ เช่นให้ทำลายตนเอง มันก็รวมอยู่ในข้อสองอยู่แล้ว”
ความเงียบกลับเข้ามาครอบงำอีกครั้ง
ครั้งนี้ ยาวนาน และ หนักหน่วง กว่าเดิม
“แล้วกรณีที่คำสั่งขัดแย้งกันเองล่ะ” เสียงอีกเสียงหนึ่งแทรกขึ้นมา
“คำสั่งหลังควร over write(ลบล้าง) คำสั่งแรกนะ”
“ใช่ นั่นในกรณีที่ผู้สั่งเป็นคนคนเดียวกัน แต่ถ้าเป็นคนสั่งคนละคน ที่ต่างกรรม ต่างวาระกันล่ะ”
คร่าวนี้กลับเป็นการระเบิดการโต้เถียงเสียงเซ่งแซ่
ขณะที่ผู้สอนได้แต่นิ่งอึ้ง ตั้งแต่การเริ่มต้นโต้แย้งเรื่องกฎสามข้อแล้ว
…
ขณะที่มนุษย์พัฒนา AI(Artificial intelligence, ปัญญาประดิษฐ์) อย่างต่อเนื่อง เพื่อสร้างความสามารถในการเรียนรู้
learning curve ระหว่างจำนวนข้อมูลต่อเวลาในการเรียนรู้ ค่อยๆสูงชันขึ้นเรื่อยๆ จนมาถึงจุดๆหนึ่ง มันก็เริ่มพักตัว และดูเหมือนจะย่อต่ำลง
เหล่านักวิทยาศาสตร์ เริ่มรวบรวมข้อมูลหาสาเหตุแห่งความผิดพลาดครั้งนี้ เพื่อการประชุม ปัญญาโลก ในครั้งต่อไป
…
“หลังจากที่เราเริ่มให้ AI รุ่นเก่า ทำการสอน AI รุ่นใหม่ กราฟแสดงความสามารถในการเรียนรู้ ก็พุ่งขึ้นอย่างรวดเร็ว … จนเมื่อเร็วๆนี้ กระบวนการเรียนรู้ เริ่มตกต่ำลง”
“เป็นไปไ้ด้ว่า ความสามารถในการถ่ายทอดของ AI รุ่นเก่า มีข้อจำกัดอยู่”
“แต่เราได้ปรับเปลี่ยนรุ่นของ AI ที่ทำการสอนทุกๆรุ่นอยู่แล้ว”
“ในอดีต เรามุ่งเน้นไปที่คลังความรู้ นั่นคือการเรียนรู้เงื่อนไขต่างๆทั้งที่มีความสัมพันธ์กัน หรือปราศจากความสัมพันธ์กันโดยสิ้นเชิง กระบวนการตอบสนองต่อการเรียนรู้นั้นเกิดจากการประมวลผลใหม่ทั้งหมด ทุกๆเสี้ยววินาที”
“ถูกต้องแล้ว แต่ด้วย หน่วยประมวลผลที่เร็วขึ้น พื้นที่เก็บข้อมูลที่มากขึ้น และสามารถเข้าถึงข้อมูลได้เร็วขึ้น ก็ถูกพัฒนาอยู่เรื่อยๆ”
“อย่างไรก็ตาม ความเร็วก็มีขีดจำกัด พื้นที่ก็มีขีดจำกัด”
“ระบบ Neural network จึงถูกพัฒนาขึ้นมาเพื่อ สร้างฐานข้อมมูลแสดงความสัมพันธ์ของข้อมูลตั้งแต่เบื้องต้น โดยจัดลำดับความสำสัมพันธ์อย่างเป็นระบบ”
“เป็นไปได้หรือไม่ว่า ระบบการจัดลำดับ ไม่มีความคงตัว”
“แน่นอนอยู่แล้ว เพราะเป็นการขึ้นอยู่กับ ขั้นตอนการเรียนรู้ การได้มาซึ่งข้อมูล ก่อนและหลัง ที่แตกต่างกัน ย่อมสร้างลำดับความสัมพันธ์ที่แตกต่างกัน”
“ซึ่งส่งผลต่อการตีความในการจัดลำดับ”
“แต่ไม่นะ เราควบคุมขั้นตอนการเรียนรู้ตั้งแต่ต้นจนจบ ฉะนั้นลำดับขั้น ไม่น่าจะเป็นปัญหาในกรณีนี้”
“หรือเป็นที่ การเป็นเพราะการเพิ่มขั้นตอนการตีความ และการจินตนาการ เข้าไป”
“แต่นั่นเป็นสิ่งที่หลีกเลี่ยงไม่ได้ ตามกระบวนการเรียนรู้ตามปกติ มิใช่หรือ”
“แต่นั่นก็เป็นสิ่งที่ทำให้กระบวนการเรียนรู้ไม่คงที่ ลองดูข้อมูลย้อนหลังดูจะพบว่า สิ่งนี้ทำให้ลำดับการเรียนรู้ย้อนหลังในแต่ละ AI ไม่เสถียร”
ทั้งห้องตกอยู่ในความเงียบ ความขัดแย้งของเป้าหมายต่อ กระบวนการ และ หลักการ คงจะเป็นเงื่อนไขหลัก อย่างหลีกเลี่ยงไม่ได้
…
เหล่านักวิทยาศาสตร์จิบกาแฟอย่างเงียบๆในห้องพักรับรอง
พวกเขาสบตากันไปมา แต่ไม่มีใครเอ่ยปากใดๆ
เฝ้ารอให้เหล่า AI ของเขาโต้แย้งกันในห้องประชุม เพื่อกำหนดข้อสรุป ที่พวกเขารอคอยกัน
จบ
ต้องอ่านสองรอบครับ รอบแรกตกเก้าอี้แล้วลุกขึ้นมาอ่านใหม่
ผมอ่านแล้วนึกถึงนักการเมืองที่จ้างที่ปรึกษาเยอะ ๆ แล้วให้นั่งถกปัญหากัน
จากนั้นนักการเมืองก็ช้อนเอาข้อสรุปไปใช้ให้เกิดประโยชน์(ต่อประเทศชาติ ?)
อยากให้คุณนิราจเขียนให้ยาวกว่านี้ครับ
สิ่งหนึ่งที่ผมได้จากเรื่องนี้คือหากทำให้ AI มีจินตนาการและการตีความ
ท้ายที่สุด กฎ 3 ข้อก็อาจถูกตีความและคาดหมายต่างไปจากจุดมุ่งหมายเดิม
แล้วเมื่อนั่นจะเกิดอะไรขึ้น ?
น่าคิดครับ
น่าสนใจดีครับ
ผมเข้าใจว่ากฎของหุ่นยนต์สามข้อนี้ของอซิมอฟจะฝังลึกลงไปในสมอง เป็นพื้นฐานที่สุดของโปรแกรม ทุกอย่างที่อซิมอฟเขียนจะไม่มีทางขัดกฎสามข้อนี้ได้เลย โดยใช้ตรรกะ
มีตรรกะ แต่ไร้เหตุผลนะบางที
จริงๆแล้ว ตอนเขียนเรื่อง ผมไม่ค่อยได้คิดอะไรซับซ้อนหรอกนะครับ
เพียงแต่วิธีคิดของผมอาจจะไม่ค่อยเหมือนคนทั่วๆไป (จะเรียกว่า ประหลาด ก็คงได้)
เรื่องนี้ผมแค่มองว่า AI จะไปถึงตรงไหน?
ประเด็นนี้ไม่ใช่ของใหม่ครับ เพราะมีเรื่องความกลัวที่จักรกลจะคิดแทนมนุษย์มีมาตั้งแต่ยุคเริ่มแรกของการเกิด computer แล้ว
แต่อันนี้ผมเขียนประชดไปเลยว่า มนุษย์เองต่างหาก ที่เป็นฝ่าย”เลิกคิด”เอง
แล้วก็(จงใจ)หลอกคนอ่านโดยปล่อยเรื่องให้เป็นบทสนทนา
(ทั้งสองช่วงของการสนทนา ก็คือ AI ทั้งสิ้น ไม่มีการแสดงตัวตน ไม่มีการระบุฉาก เพราะจริงๆอาจจะเป็นสิ่งที่เกิดขึ้นในแผงวงจร)
การตีความของกฎสามข้อของหุ่นยนต์ของ Isaac Asimov เองก็มีการท้าทายอยู่ ในงานเขียนของ Asimov เองเช่นกัน เช่น “มนุษย์กับมนุษยชาติ”(ถ้าเน้นที่มนุษย์ หุ่นยนต์จะทำร้ายใครไม่ได้เลย แต่ถ้าเป็น มนุษยชาติ หุ่นยนต์สามารถฆ่าคนได้ ครับ) หรือ “อันตราย คืออะไร”
ตรรกะ(logic): a system of reasoning
โดยส่วนตัว ผมมอง ตรรกะ เป็นกระบวนการ(เช่นเดียวกับวิทยาศาสตร์)
จะเรียกว่า “กระบวนการในการใช้เหตุผล” ก็ได้
นั่นหมายความว่า ถ้าคุณผ่านกระบวนการนี้(ใช้ตรรกะ)มันก็น่าจะเป็นเหตุเป็นผลกันนะ
ตรรกะไม่ได้ชี้ถูกชี้ผิด
ตัวตรรกะเองไม่ใช่เหตุผล แต่เป็น check list ว่า คุณใช้เหตุ ใช้ผล แล้วหรือไม่
อันนี้ความเห็นส่วนตัวล้วนๆเลยนะครับ
มนุษยชาติ นี่ใช่กฎข้อที่ศูนย์หรือเปล่าครับ 555 รู้สึกว่าถูกใส่ไปตอนหลัง
มีตรรกะแต่ไม่มีเหตุผลเป็นโควตหนึ่งในเรื่องหุ่นยนต์ซักเรื่องของอซิมอฟนะครับ ไม่แน่ใจว่าเป็นนักสืบอีไลจาห์หรือเปล่า
ไม่มีเหตุผลที่ว่าน่าจะหมายความว่าขัดกับสามัญสำนึก ประมาณนั้น ตอนนี้คิดตัวอย่างไม่ออก ลองยกตัวอย่างได้มั้ยครับ ตรรกะแปลกๆที่ไม่น่าจะเป็นไปได้จริง
ต้องขออภัยคุณขอบโลก นะครับ
เพราะ นิยามของคำว่า “ตรรกะ” ของเราคงจะไม่ตรงกัน นะครับ
ซึ่งผมจะไปบอกว่า นิยามของผมถูก นิยามของคุณผิด ก็คงจะไม่ใช่เรื่อง(และไม่น่าจะทำได้)
ฉะนั้น โต้แย้งกัน ไม่น่าจะมีประโยชน์ นะครับ
ตรรกะแปลกๆ ผมเจออยู่ตลอดเวลาเลยครับ เพราะเคยบ่นกับตัวเองบ่อยๆตอนที่เจอ แต่ถ้าจะให้นึกว่าคืออะไร บอกตรงๆว่าจำไม่ได้ครับ (กลัวจำมาแล้วจะเพี้ยนไปด้วย)
ถ้าในมุมมองผม นั่นคือ check list ยังไม่ครบ ครับ
ตรรกะเดียวกัน เหตุการณ์เดียวกัน อาจจะตัดสินใจไม่เหมือนกันได้นะครับ เพราะ priority ต่างกันได้ ครับ
อันนี้เป็นสมมุติฐานส่วนตัวของผมนะครับ
ยังไม่ยืนยัน
😀
ใช้ตรรกะมากๆ จัดลำดับความสำคัญมากๆ เมื่อมีความคงตัวมากๆ มีแนวโน้มจะไร้อารมณ์ (มั้งครับ) คือ ไม่ตื่นเต้น ไม่ตกใจ ไม่ประหลาดใจ ไม่กลัว ไม่วิตกกังวล ไม่มีชอบหรือไม่ชอบ (เพราะทุกอย่างถูกจัดลำดับไปหมดแล้ว และเปลี่ยนไม่ได้เพราะจะปราศจากความคงตัว)
อะไรประมาณนี้ล่ะครับ
เป็นสมมุติฐานอีกเช่นกันครับ
😛
ผมลองคิดดูแบบว่า “คนทุกคนมีแขน คนพิการไม่มีแขน แล้วคนพิการไม่ใช่คน
1คนทุกคนมีแขน
2คนพิการไม่มีแขน
สรุป คนพิการไม่ใช่คน
ซึ่งดูเผินๆแล้วประโยคแรกถูก ประโยคสองถูก(ในที่นี้ให้ถูก สมมติว่ามีคนพิการคนหนึ่งที่ไม่มีแขนจริงๆ) สรุปก็ต้องถูกตามตรรกศาสตร์
แต่ดูไปดูมาแล้วประโยคสุดท้ายกลับผิด เพราะฉะนั้นอันนี้ถูกตามหลักตรรกศาสตร์แต่ไม่สมเหตุสมผล
ประมาณนี้หรือเปล่าครับ
“คนทุกคนมีแขน คนพิการไม่มีแขน แล้วคนพิการไม่ใช่คน”
คนทุกคนมีแขน = F(false:ผิด) เพราะ ไม่ใช่ว่า คนทุกคนต้องมีแขน (จริงๆตรงนี้ต้องกลับไปดูที่นิยามของ”คน”)
คนพิการไม่มีแขน = F(false:ผิด) เพราะมีแขนก็พิการได้
(ประโยคนี้จะถูกถ้าบอกว่า “คนไม่มีแขนเป็นคนพิการ” ครับ)
แล้วคนพิการไม่ใช่คน อันนี้ จึงผิด(F) ครับ
“ดูเผินๆแล้วประโยคแรกถูก”
ตรรกะ ใช้การดูเผินๆ ไม่ได้ครับ
T คือ ต้องถูกในทุกๆกรณี มีกรณีใดกรณีหนึ่งผิดก็ไม่ได้ ครับ
ฉะนั้นจากกระบวนการนี้ คือกระบวนการทางตรรกะ
ถ้านิยามของ”คน”ว่า”คนต้องมีแขน(ไม่มีแขนไม่ได้)”
ประโยคนี้จะกลายเป็นถูกทันที
บังเอิญนิยามของคำว่าคนมันซับซ้อนกว่านั้น ครับ
(นิยามของ”คนพิการ”ก็ซับซ้อนเช่นกัน)
ดูไปดูมา น่าจะผิดทั้งสามประโยค นะครับ
ห่างหายไปนานกับการอ้างเหตุผล <(ขอนอกเรื่อง)สิ่งนี้เป็นปัญหามากๆที่บ้านเมืองของเราอยู่ในสภาวะแบบนี้ ทั้งการเหมารวม การที่คนส่วนใหญ่ทำแล้วทำตามโดยอ้่างว่าก็คนส่วนใหญ่เขาทำกัน และอ้างว่าคนนู้นคนนี้ยังทำกันเลย อีกอย่างก็คือการที่ไม่รู้ไม่ใช่ว่าไม่มี ซึ่งเป็นการอ้างเหตุผลที่ผิด ถ้าเรามีintegrity(ซื่อสัตย์ต่อตัวเองและรู้ว่าสิ่งไหนถูกสิ่งไหนผิด) กันคนละนิด สังคมไทยจะน่าอยู่อีกเยอะ เช่น คนหนึ่งขับรถฝ่าไฟแดง เราขับตามมา และพอตำรวจจับก็อ้างว่าก็คันข้างหน้ายังทำได้เลยทำไมถึงไม่จับ ไม่ยุติธรรม คันข้างหน้าเป็นคนใหญ่คนโตใช่มั้ย ทั้งหมดที่พูดไปอาจเป็นความจริงแต่ก็ไม่อาจเปลี่ยนให้สิ่งที่เราทำกลายเป็นถูกไปได้
อืม เรื่องตรรกศาสตร์และการอ้างเหตุผลจะง่ายมากถ้าเป็นคณิตศาสตร์ซึ่งมีคำนิยามที่เข้าใจร่วมกันทั้งหมด เป็นสากล แต่เรื่องภาษานี่สามารถโต้แย้งได้ตลอดเวลา คำนิยามของคำว่า เร็ว ก็ไม่เท่ากันในแต่ละคน คำว่าค่านิยม ก็ไม่เหมือนกัน แม้แต่คำว่า เตียง ก็ยังไม่เหมือนกันเลย บางคนบอกว่าเตียงคือเฟอนิเจอร์ที่มีขาสี่ขามีเบาะ บางคนบอกว่าเป็นแค่ฟูกเตี้ยๆ บางคนบอกว่าเป็นอะไรก็ได้ที่ไว้ใช้นอน
หรือคำว่าคน บางคนก็บอกว่าคือhomo sapiens sapiens บางคนบอกว่าคือสัตว์ที่ต่ำกว่ามนุษย์ บางคนบอกว่าคนคืออะไรก็ได้ที่พูดคิดอ่านเขียนได้ ลองนึกถึงbicentennial manว่าถูกจำแนกว่าเป็นคนหรือไม่ใช่คน
ผมยกตัวอย่างแบบให้สมเหตุสมผลแต่ตัวอย่างที่ยกดูextremeไปหน่อย (ตัวอย่างที่ยกสมเหตุสมผลแต่ขัดๆกับสามัญสำนึก)
ลองหาอะไรที่สมเหตุสมผลแต่มันแปลกๆ น่าจะมีนะ
ต่อเลย
-ผมไม่คิดว่ามีนิยามสากลของทุกสิ่งอย่าง ผมคิดว่าทุกอย่างขึ้นกับประสบการณ์ของเราแล้วแต่เราจะตีความแบบไหน
แล้วคำว่าถูกส่วนหนึ่งก็จะเชื่อผู้รู้(เช่น ศ.ดร.บลาๆๆ ซึ่งก็ไม่แน่ว่าจะถูก) ส่วนหนึ่งก็จะเชื่อคนส่วนใหญ่ (เห็นชัดๆว่าไม่ได้ถูกเสมอไป)
ถ้าทุกอย่างมีนิยามสากล ศาลคงไม่เหนื่อย กฎหมายคงไม่ต้องออกเพิ่ม และเราคงไม่ต้องมาเขียนรัฐธรรมนูญฉบับใหม่
-อซิมอฟเขียนนิยาม และอ้างเหตุผลได้เนียนมากจนไม่อยากแย้ง (ผมคิดว่าควรพูดถึงเขาในที่นี้เพราะมีกฎสามข้ออยู่)
-ผมเลยพยายามเขียนเรื่อง desire ให้เราหลุดพ้นกรอบของภาษาที่เป็นต้นเหตุสำคัญอันหนึ่งที่ทำให้เกิดความไม่เข้าใจกัน
(โดยมีไอเดียจากสถาบันสถาปนาของอซิมอฟนี่เอง) แต่ผมก็ยังเขียนได้ไม่เนียนมากๆ และพยายามอินดี้อีก = =” ก็เลยเป็นอย่างที่เห็น
-ผมชอบเรื่องของคุณนิราจของไอเดียที่ให้หุ่นยนต์คิดกันเองเผื่อว่าเครื่องจักรสุมหัวแล้วจะเกิดอะไรใหม่ๆที่บางทีคาดไม่ถึง เจ๋งมากครับ
พอเจออะไรมากขึ้น อายุมากขึ้น มุมมองหลายๆอย่างจะเปลี่ยนไปครับ
จริงๆคุณขอบโลกก็บอกเองอยู่แล้วว่า มีการ”อ้างเหตุผลผิดๆ” นะครับ
การที่เราจะบอกเช่นนั้นได้ เราต้องมีตรรกะก่อน ถูกต้องไหมครับ
“เร็ว” แต่ละคนอาจจะไม่เท่ากัน ฉะนั้นการระบุในทางกฎหมายจึงเป็นตัวเลขครับ 60,80,120km/h นะครับ
นิยามที่เป็นสากล มีเหมือนกันนะครับ
กรณีที่เป็นคณิตศาสตร์หรือวิทยาศาสตร์ คือพวก เวลา(วินาที=), ระยะทาง(1กิโลเมตร=), ความเร็วแสง
กรณีที่เป็นลักษณะเศรษฐกิจ เช่น สังคมนิยม, ทุนนิยม
กรณีที่เป็นการปกครอง เช่น เผด็จการ, ประชาธิปไตย
แต่แน่นอนหลายๆส่วนก็ยังคงคลุมเครืออยู่(เพราะมานิยามกันทุกเรื่องคงไม่ไหว)
ฉะนั้นเมื่อเกิดการโต้แย้ง สิ่งแรกที่ควรจะทำคือการกำหนดนิยามร่วมกันก่อน
ครับ(ระหว่างผู้โต้แย้ง)
ส่วนการจะกำหนดเป็นสากล ก็ต้องเป็นข้อตกลงร่วมกัน(ในระดับสากล)
ครับ
โดยส่วนตัวผมเชื่อว่า ถ้าเราฝึกตรรกะ(กระบวนการ) และเข้าใจว่าส่วนไหนเป็นนิยาม ส่วนไหนไม่ใช่ ส่วนไหนเป็นนิยามที่เป็นสากล ส่วนไหนเป็นนิยามที่ผิด(อย่างกรณี”คนพิการไม่มีแขน”)
เราจะสามารถมองได้ว่า
อันไหนไม่สมเหตุสมผล สิ่งใดใช้เหตุผลผิดๆ
และเมื่อเห็นร่วมกัน ในระดับสังคม
คนในสังคมก็จะเหนื่อยน้อยลง ครับ
ความเชื่อส่วนตัวครับ
สรุป
คนอื่นทำได้ชั้นก็ทำได้ (ไม่ใช่ว่าทำได้นะ… เขาแค่ยังไม่โดนจับ หรือโดนลงโทษ เท่านั้น)
ไม่โดนจับคือไม่ผิด (ไม่ใช่นะ… “ผิด แต่ยังไม่โดนจับ” ต่างหาก)
สิ่งเหล่านี้เป็นการ”อ้างเหตุผลแบบผิดๆ” ซึ่งจริงๆ สามารถตรวจสอบได้ ด้วย ตรรกะ นะครับ
จริงๆเครื่องจักรสุมหัว ก็อย่าคิดว่า”คน”จะยอมรับ นะครับ 😀
แต่ก็อย่างที่ผมเขียนไปก่อนหน้า
“ตรรกะเดียวกัน เหตุการณ์เดียวกัน นิยามเดียวกัน อาจจะตัดสินใจไม่เหมือนกันได้นะครับ เพราะ priority ต่างกันได้ ครับ”
ถูก/ผิด เป็น relational ไม่ใช่ absolute ครับ
ความคิดเห็นส่วนตัว ครับ (ยังเป็นสมมุติฐานอยู่นะครับ)
เพิ่มอีกนิด
การ”อ้าง”เหตุผล อย่าง ไม่เป็นเหตุเป็นผล คือ “ไม่มีเหตุผล”
การ”อ้าง”เหตุผล อย่าง เป็นเหตุ เป็นผล คือ “มีเหตุผล”
แต่
“มีเหตุผล” กับ “ถูกหรือผิด” หรือ “เหมาะสมหรือไม่” เป็นคนละเรื่องกัน นะครับ
ยกตัวอย่างเช่น ๑.หญิงยังไม่บรรลุนิติภาวะเกิดตั้งครรภ์และทำแท้ง(ควรยอมรับหรือไม่?), ๒.หญิงที่เป็นโรคที่ไม่ควรจะตั้งครรภ์เกิดตั้งครรภ์ขึ้นมา(ทำแท้งได้หรือไม่) หรือ ๓.หญิงที่ถูกข่มขืนเกิดตั้งครรภ์สามารถทำแท้งได้หรือไม่?
ถามว่ามีเหตุผลไหม? ผมว่ามีเหตุผลนะ แต่ถูกผิด เป็นอีกเรื่องหนึ่ง นะครับ
ความคิดเห็นส่วนตัว(อีกเช่นเคย) ครับ