პოლიტიკის რეკომენდაციები მომზადდა ePaństwo Foundation-ის მიერ ჩეხეთში, საქართველოში, უნგრეთში, პოლონეთში, სერბეთსა და სლოვაკეთში ჩატარებული ვრცელი კვლევის საფუძველზე. რეკომენდაციები გამოქვეყნებულია ანგარიშში alGOVrithms - the State of Play. ანგარიშში შეტანილია მონაცემები და ანალიზი, რომელიც შეგროვდა ePaństwo Foundation-ის, KohoVolit.eu-ის (ჩეხეთისა და სლოვაკეთისთვის), IDFI-ის, K-Monitor-ისა და CRTA-ის მიერ 2018 წლის ნოემბრიდან 2019 წლის აპრილამდე პერიოდში. 

ძირითადი მიგნებები

კვლევაში მონაწილე არც ერთ ქვეყანაში არ არსებობს სახელმწიფოს დონის პოლიტიკა სამთავრობო ალგორითმების (alGOVrithms) გამოყენების შესახებ. მიუხედავად იმისა, რომ ზოგიერთი ქვეყანა, მაგალითად, პოლონეთი და ვიშეგრადის ოთხი წევრი ქვეყანა , მუშაობენ ხელოვნური ინტელექტის სტრატეგიებზე, არცერთ მათგანს არ გააჩნია ავტომატიზებული გადაწყვეტილების მიღების გამჭვირვალობისა და ანგარიშვალდებულების მარეგულირებელი ყოვლისმომცველი დოკუმენტები. წინამდებარე ანგარიში, ალბათ, პირველი დოკუმენტია, რომელიც აღწერს ამ ფენომენის ფართო პერსპექტივას. იმედს გამოვთქვამთ, რომ ჩვენი პოლიტიკის რეკომენდაციები გათვალისწინებული იქნება იმ გადაწყვეტილების მიმღებთა მიერ, რომლებიც მომავალში ამ ინსტრუმენტებზე იმუშავებენ. პოლონეთში, არც ციფრულ საქმეთა სამინისტრო და არც პრემიერ-მინისტრის კანცელარია არ მუშაობს ამ საკითხზე. გარდა ამისა, კვლევის მონაწილე არცერთ ქვეყენას არ გააჩნია ეთიკური ჩარჩო.

მეტიც, ჩვენ ვერ აღმოვაჩინეთ ვერც რაიმე საკანონმდებლო ჩარჩო, რომელიც დეტალურად აღწერდა ამ კუთხით სახელმწიფოსა და მოქალაქის უფლებებსა და ვალდებულებებს. არსებობს მხოლოდ ვიწრო იურიდიული დოკუმენტაცია, რომელიც ეხება ალგორითმების გამოყენების ცალკეულ შემთხვევებს, როგორიცაა სასამართლო საქმეების ავტომატური განაწილება მოსამართლეებისთვის. ამის მაგალითებია: საქართველო, სადაც შეიცვალა საერთო სასამართლოების შესახებ ორგანული კანონი, პოლონეთი, სადაც 2017 წლის 28 დეკემბერს იუსტიციის მინისტრმა შეცვალა დებულება საერთო სასამართლოების ფუნქციონირების წესების შესახებ, და სერბეთი, რომელიც სასამართლოს დებულების (2009) მეშვეობით არეგულირებს მოსამართლეთა შერჩევის სისტემას.

მხოლოდ უნგრეთში მოიპოვება ავტომატიზებული გადაწყვეტილების მიღების ზოგადი, მაგრამ მაინც არა ყოვლისმომცველი, რეგულაცია – კანონი „ზოგადი საჯარო ადმინისტრირების პროცედურებში გადაწყვეტილების მიღების შესახებ“ არეგულირებს კლიენტთა მოთხოვნებზე გადაწყვეტილების მიღების დროს ავტომატიზებული გადაწყვეტილებების მიღებას.

ევროკავშირის ქვეყნებში ავტომატიზებული გადაწყვეტილების მიღების ზოგადი წესები შემოღებულ იქნა მონაცემთა დაცვის ზოგადი რეგულაციის (GDPR) 2018 წლის მაისში ამოქმედების შემდეგ. GDPR-ის 22.1 მუხლის თანახმად, „მონაცემთა სუბიექტს ექნება უფლება, არ დაექვემდებაროს გადაწყვეტილებას, რომელიც მიღებულია მხოლოდ ავტომატიზებული გადამუშავების, მათ შორის, პროფილირების, საფუძველზე, რომელის მასზე ახდენს სამართლებრივ ან ანალოგიური მნიშვნელობის გავლენას“. როგორც ჩანს, ეს დებულება უმეტეს შემთხვევაში არ არის რელევანტური, რადგან იმისათვის, რომ ალგორითმს ჰქონდეს პირდაპირი გავლენა მოქალაქეზე, საჭიროა არსებობდეს „ადამიანის ფაქტორი“. ასევე, როგორც ჩანს, ეს დებულება არ ეხება კვლევის მონაწილე თითოეულ ქვეყანაში აღმოჩენილ სიჩქარის გაზომვის ავტომატიზებულ სისტემებს, რადგან, როგორც ეს პრაღის მაგალითიდან ჩანს, „თითოეული გადაწყვეტილება უნდა განხილულ იქნას ადამიანის მიერ (მუნიციპალური პოლიციის წარმომადგენელი)“.

ჩვენ აღმოვაჩინეთ, რომ ავტომატიზებული გადაწყვეტილების მიღების პროცესში გამოყენებული ალგორითმები არ არის გამჭვირვალე და არ არსებობს წვდომა მათ საწყის კოდზე. პოლონეთში, იუსტიციის მინისტრმა უარი განაცხადა ePaństwo Foundation-ის მიერ მოთხოვნილი ინფორმაციის მიწოდებაზე და აღნიშნა, რომ მოსამართლეთა შემთხვევითი განაწილების ალგორითმი ტექნიკური ინფორმაციაა, რომელიც არ წარმოადგენს საჯარო ინფორმაციის ხელმისაწვდომობის შესახებ პოლონეთის კანონით განსაზღვრულ საჯარო ინფორმაციას. ასევე არ არის საჯარო ალგორითმი, რომელიც გამოიყენება "STIR - Clearance Chamber“ სისტემაში, ამ შემთხვევაში უსაფრთხოების მიზეზით (სისტემა დანერგილია შემდეგი კანონის საფუძველზე: საკანონმდებლო აქტი ფინანსური სექტორის გამოყენებით საგადასახადო თაღლითობის ჩადენის აღმოფხვრის მიზნით გარკვეულ აქტებში ცვლილებების შეტანის შესახებ).

მსგავსი ალგორითმების საწყის კოდზე წვდომა სხვა ქვეყნებშიც შეზღუდულია უსაფრთხოების ან საავტორო უფლებების მიზეზით. ზოგჯერ პროდუქტი ეკუთვნის კერძო კომპანიას; ასეთი მდგომარეობა იყო სლოვაკეთში, სადაც იუსტიციის საბჭომ განაცხადა, რომ მის სისტემაში მოქმედი ალგორითმი მის მფლობელობაში არ იყო. ჩეხეთში, ზოგადად, ალგორითმების კოდები არ არის საჯარო; ისინი ექვემდებარებიან საავტორო უფლებებს და არ ეკუთვნიან საჯარო დაწესებულებას (გარდა კანონით განსაზღვრული შემთხვევებისა).

კვლევის შედეგად ასევე არ გამოვლინდა არც ერთი ინსტიტუცია, რომელიც ზედამხედველობს ან გააჩნია ყოვლისმომცველი ცოდნა იმის შესახებ, თუ რა ავტომატიზებული გადაწყვეტილების სისტემები არსებობს ქვეყანაში. ყველა გამოკვლეულ ქვეყანაში საქართველოს მსგავსი სიტუაციაა, სადაც არ არსებობს საჯარო დაწესებულება, რომელიც უშუალოდ პასუხისმგებელია საჯარო სექტორში ალგორითმის გამოყენების შესახებ პოლიტიკის მიღებასა და განხორციელებაზე. პირიქით, თითოეულ საჯარო დაწესებულებას შეუძლია შეიმუშაოს ნებისმიერი პროგრამული უზრუნველყოფა თავისი საჭიროებებისა და პროგრამების შესაბამისად.

გარდა სერბეთის შემთხვევისა, სადაც მოსამართლეებზე საქმეთა განაწილების სისტემას აუდიტი დონორმა (ევროკავშირის) ჩაუტარა, არ არსებობს გარე და დამოუკიდებელი აუდიტის მექანიზმები, რომლებიც ალგორითმული ოპერაციების სიზუსტესა და სამართლიანობას შეაფასებდა.

რეკომენდაციები

დროა შევიმუშაოთ და დავნერგოთ თანმიმდევრული პოლიტიკა ავტომატიზებული გადაწყვეტილებების შესახებ. ჩვენ შემდეგ პრინციპებს გთავაზობთ:

- ალგორითმის გამოყენების პოლიტიკის ჩამოყალიბება

კვლევის დროს გამოვლინდა, რომ მაკოორდინირებელმა პირებმა, მაგალითად, პრემიერ-მინისტრებმა, არ იციან, რომ მათ დაქვემდებარებაში არსებული ორგანოები და სხვა საჯარო დაწესებულებები უკვე იყენებენ ალგორითმებს. მთავრობებმა უნდა შეიმუშაონ ერთიანი პოლიტიკა, მათ შორის ეთიკური პრინციპები, რათა ალგორითმებიშექმნის პროცესი იყოს სისტემურად შეთანხმებული. პოლიტიკამ ასევე უნდა შემოიღოს გარე და დამოუკიდებელი ორგანოების მიერ ჩატარებული ალგორითმების სავალდებულო აუდიტები. ამისთვის საჭიროა:

- მაკოორდინირებელი ორგანოს შექმნა აღმასრულებელი ხელისუფლების ფარგლებში

- ავტომატიზებული გადაწყვეტილებების შესახებ მკაფიო და კომპლექსური საკანონმდებლო ჩარჩოს შემუშავება

- ეთიკის სახელმძღვანელო

- სამთავრობო ალგორითმების შექმნის მთელ პროცესში არასამთავრობო ორგანიზაციებისა და გარე ექსპერტების ჩართვა

- ალგორითმული ზემოქმედების შეფასების დანერგვა

- გამჭვირვალობის დებულებების შემოღება ალგორითმის შემქმნელ კომპანიებთან დადებულ კონტრაქტებში და ღია წვდომა საწყის კოდთან

- ალგორითმების გამოყენების შესახებ სახელმძღვანელოების შედგენა

- დავების განხილვისა და გადაწყვეტის სისტემის შემუშავება

იხილეთ ანგარიში [ინგლისურ ენაზე] სრულად აქ

სამთავრობო ალგორითმები - ავტომატიზებული გადაწყვეტილებების გამოყენება

/public/upload/IDFI_2019/General/alGOVrithms_Recommendations_GEO.pdf