Συνοπτικά τα βασικά σημεία:
- Τα αλγοριθμικά συστήματα, ιδίως η τεχνητή νοημοσύνη (Τ.Ν.), θα έχουν μεγάλη επίδραση στην εργασία του μέλλοντος. Για να βελτιωθούν οι συνθήκες εργασίας και να αποφευχθούν οι αρνητικές επιπτώσεις, η χρήση τέτοιων συστημάτων στον χώρο εργασίας πρέπει να ρυθμίζεται καλύτερα και αποτελεσματικά.
- Ο προταθείς κανονισμός για την Τ.Ν. δεν είναι κατάλληλος για τη ρύθμιση της χρήσης της στον χώρο εργασίας. Μια Οδηγία της Ε.Ε. για τα αλγοριθμικά συστήματα στον χώρο εργασίας, με βάση το άρθρο 153 Σ.Λ.Ε.Ε., θα πρέπει να καθορίσει τα ευρωπαϊκά ελάχιστα πρότυπα για τον σχεδιασμό και τη χρήση αλγοριθμικών συστημάτων στο πλαίσιο της εργασίας.
- Βασικό στοιχείο της νέας Οδηγίας πρέπει να είναι η ενίσχυση και η επιβολή των δικαιωμάτων συλλογικών διαπραγματεύσεων των συνδικαλιστικών οργανώσεων, καθώς και των δικαιωμάτων ενημέρωσης, διαβούλευσης και συμμετοχής των εκπροσώπων των εργαζομένων.
- Τα αλγοριθμικά συστήματα στην εργασία πρέπει να είναι διαφανή και κατανοητά. Οι εργαζόμενοι και οι εκπρόσωποί τους έχουν δικαίωμα να λαμβάνουν πληροφορίες σχετικά με τις χρησιμοποιούμενες εφαρμογές σε απλή και κατανοητή γλώσσα.
- Οι συνδικαλιστικές οργανώσεις και οι εκπρόσωποι των εργαζομένων έχουν το δικαίωμα να προσφεύγουν σε εξωτερική εμπειρογνωμοσύνη.
- Ο εργοδότης πρέπει να διενεργεί εκτίμηση αλγοριθμικών επιπτώσεων για αλλαγές στις συνθήκες εργασίας, συμπεριλαμβανομένης της εκτίμησης επιπτώσεων στα θεμελιώδη δικαιώματα και την ισότητα, με την πλήρη συμμετοχή των συνδικάτων και των εκπροσώπων των εργαζομένων, πριν από την εισαγωγή οποιουδήποτε νέου συστήματος, καθώς και περιοδικά μετά από αυτήν.
- Tα παρεμβατικά (intrusive) συστήματα θα πρέπει να απαγορεύονται στο πλαίσιο της εργασίας. Εφαρμογές για την παρακολούθηση των εργαζομένων θα πρέπει να επιτρέπονται μόνο κατόπιν συλλογικής διαπραγμάτευσης και συμφωνίας με τα συνδικάτα και/ή τους εκπροσώπους των εργαζομένων.
- Τα αλγοριθμικά συστήματα και η τεχνητή νοημοσύνη θα πρέπει να βοηθούν τους εργαζόμενους στο πλαίσιο της απασχόλησης. Πρέπει να οριστεί και να συγκεκριμενοποιηθεί η αρχή «άνθρωπος στο τιμόνι» (human–in–command) και να προστατευθούν τα δικαιώματα των προσώπων στα οποία ανατίθεται η λήψη αποφάσεων.
- Οι εργαζόμενοι πρέπει να έχουν το δικαίωμα να ελέγχουν και να αναθεωρούν τις αλγοριθμικές αποφάσεις.
Τα αλγοριθμικά συστήματα, ιδίως τα συστήματα Τεχνητής Νοημοσύνης (ΤΝ), προσφέρουν τεράστιες ευκαιρίες για τη βελτίωση των χώρων εργασίας – για παράδειγμα ευκαιρίες για τη βελτίωση της αποτελεσματικότητας, της δικαιοσύνης και της ασφάλειας των εργαζομένων. Η αυξανόμενη χρήση των συστημάτων ΤΝ[1] στους χώρους εργασίας εγκαινιάζει ένα νέο κύμα ψηφιοποίησης που διαφέρει σημαντικά από το προηγούμενο. Η παρελθούσα ψηφιοποίηση χαρακτηριζόταν κυρίως από τεχνολογικές καινοτομίες όπως η μηχανοργάνωση, η αυτοματοποίηση και η ρομποτοποίηση. Αυτή βασιζόταν σε αυτοματοποιημένες διαδικασίες μέσω ρητών κανόνων και χειροκίνητα γραμμένων προγραμμάτων υπολογιστών. Οι εμπειρίες των εργαζομένων με αυτό το είδος ψηφιοποίησης ήταν ανάμεικτες. Ωστόσο, όπου τα συνδικάτα και οι εκπρόσωποι των εργαζομένων συνέβαλαν στη διαμόρφωση της ψηφιοποίησης στο χώρο εργασίας, αυτό οδήγησε στη δημιουργία του απαραίτητου διαπραγματευτικού πλαισίου που εγγυάται τη συμμετοχή και τον έλεγχο των εργαζομένων κατά τη λειτουργία των ψηφιακών εργασιών, καθώς και στην παροχή πρόσθετων προσόντων και κατάρτισης για το χειρισμό των ρομπότ.
Η τεχνητή νοημοσύνη είναι διαφορετική. Είναι ιδιαίτερα ανατρεπτική, αυτοεκπαιδευόμενη, μπορεί να αντλεί ανεξάρτητα συνδέσεις και να λαμβάνει αποφάσεις. Σε αντίθεση με τα απλούστερα προγράμματα της δομής «Εάν x – τότε y» που ήταν εν πολλοίς κατανοητά μέχρι σήμερα, η ΤΝ μπορεί να προκαλέσει διαδικασίες λήψης αποφάσεων που δεν μπορούν πλέον να εξηγηθούν από τους ίδιους τους προγραμματιστές μετά από κάποιο χρονικό διάστημα ούτε να προβλεφθούν από τους προγραμματιστές. Ο κίνδυνος της απανθρωποποίησης των διαδικασιών λήψης αποφάσεων, ιδίως όταν χρησιμοποιούνται στη διαχείριση ανθρώπινου δυναμικού, για παράδειγμα για την πρόσληψη εργαζομένων, την παρακολούθηση της εργασίας, την ανάλυση της συμπεριφοράς και ακόμη και τον τερματισμό της απασχόλησης, έχει ήδη σε σημαντικό βαθμό πραγματωθεί.
Η τεχνητή νοημοσύνη εγκυμονεί τεράστιους κινδύνους για τους εργαζόμενους όσο μένει αρρύθμιστη[2]. Εκτός από τη μαζική παρακολούθηση, μπορεί να χρησιμοποιηθεί για την αναγνώριση συναισθημάτων και την αξιολόγηση των εργαζομένων χωρίς να λαμβάνεται υπόψη το όλο πλαίσιο ή μια απόδοση. Ένα κλασικό παράδειγμα είναι οι εφαρμογές που βασίζονται στην ΤΝ και μπορούν να προσδιορίσουν τη διάθεση και τα συναισθήματα στις συνομιλίες των εργαζόμενων τηλεφωνικής εξυπηρέτησης και να τους αξιολογήσουν ως μέρος της παρακολούθησης της απόδοσης. Το αν ο εκάστοτε εργαζόμενος βρίσκεται σε μια προσωπικά αγχογόνα κατάσταση (π.χ. απώλεια ενός συγγενή) δεν λαμβάνεται υπόψη στην αξιολόγηση. Έτσι, τα εργαλεία τεχνητής νοημοσύνης μπορούν γρήγορα να δημιουργήσουν ένα είδος απανθρωποποίησης του εργαζομένου, μετατρέποντάς τον σε ένα καθαρά οικονομικό εμπόρευμα. Η τεχνητή νοημοσύνη μπορεί επίσης να κάνει προβλέψεις σχετικά με την απόδοση ενός εργαζομένου. Μια προαγωγή ή ακόμη και μια απόλυση μπορεί επομένως να βασίζεται, τουλάχιστον εν μέρει, σε μια πρόβλεψη της μελλοντικής απόδοσης ενός εργαζομένου και όχι στην πραγματική απόδοση. Ακόμα πιο επικίνδυνα, τέτοια συστήματα μπορούν να χρησιμοποιηθούν για προβλέψεις σχετικά με τις πολιτικές στάσεις, τις προτιμήσεις τεκνοποίησης και τη συμμετοχή σε συνδικάτα.
Η τεχνητή νοημοσύνη και η αλγοριθμική διαχείριση θα έχουν επίσης τεράστιο αντίκτυπο στην εργασία του μέλλοντος, οι επιμέρους δραστηριότητες στα επαγγελματικά προφίλ θα αλλάξουν ή θα εξαφανιστούν εντελώς, η οργάνωση της εργασίας και οι εργασιακές σχέσεις θα αλλάξουν με σημαντικές επιπτώσεις στο εργασιακό περιβάλλον, τον χρόνο εργασίας και την υγεία και την ασφάλεια.
Ως εκ τούτου, η Συνομοσπονδία Ευρωπαϊκών Συνδικάτων (ETUC) συμμετείχε στη συζήτηση για τη ρύθμιση της τεχνητής νοημοσύνης από νωρίς. Με βάση επιστημονικές εργασίες και στοιχεία[3], η Συνομοσπονδία περιέγραψε την ανάγκη για μια ολοκληρωμένη ρυθμιστική στρατηγική στο ψήφισμά της σχετικά με τις ευρωπαϊκές στρατηγικές για την τεχνητή νοημοσύνη και τα δεδομένα[4] ήδη από τον Ιούλιο του 2020. Στη Λευκή Βίβλο για την «Τεχνητή Νοημοσύνη – Μια ευρωπαϊκή προσέγγιση για την αριστεία και την εμπιστοσύνη»[5], η ίδια η Ευρωπαϊκή Επιτροπή επεσήμανε τον αντίκτυπο στον κόσμο της εργασίας: «Υπό το πρίσμα της σημασίας της για τα άτομα και της ενωσιακής νομοθεσίας για την ισότητα στην απασχόληση, η χρήση εφαρμογών τεχνητής νοημοσύνης για τις διαδικασίες πρόσληψης καθώς και σε καταστάσεις που επηρεάζουν τα δικαιώματα των εργαζομένων θα πρέπει πάντα να θεωρείται «υψηλού κινδύνου» […], η χρήση εφαρμογών τεχνητής νοημοσύνης για τους σκοπούς της εξ αποστάσεως βιομετρικής ταυτοποίησης και άλλων παρεμβατικών τεχνολογιών επιτήρησης, θα πρέπει πάντα να θεωρείται “υψηλού κινδύνου” […]».
Σε σύγκριση με τις απαιτήσεις της Συνομοσπονδίας, η πρόταση της Επιτροπής της ΕΕ σχετικά με το σχέδιο νόμου για την τεχνητή νοημοσύνη[6] είναι κάτι παραπάνω από απογοητευτική από την σκοπιά των εργαζομένων. Παρόλο που η Ευρωπαϊκή Επιτροπή έχει ορίσει τα συστήματα ΤΝ που χρησιμοποιούνται για την πρόσληψη, την προαγωγή ή την απόλυση ως συστήματα υψηλού κινδύνου, τα συστήματα αυτά είναι υποχρεωτικό να υποβάλλονται μόνο σε αυτοαξιολόγηση, κατά την οποία ο ίδιος ο πάροχος λογισμικού πιστοποιεί μόνο τη συμμόρφωση με το νόμο και τα πρότυπα που δεν έχουν ακόμη καθοριστεί. Ούτε τα συνδικάτα ούτε οι εκπρόσωποι των εργαζομένων έχουν τη δυνατότητα να ενημερωθούν και να ζητήσουν τη γνώμη τους- ούτε παρέχεται στους εργαζομένους οποιαδήποτε προστασία ή εγγύηση. Η αυτοαξιολόγηση δεν αρκεί για την προστασία των δικαιωμάτων των εργαζομένων. Για την ενίσχυσή της, απαιτείται αξιολόγηση της συμμόρφωσης από τρίτους με τη συμμετοχή των συνδικάτων. Τα δικαιώματα διαφάνειας παρέχονται αυτή τη στιγμή μόνο στους τελικούς χρήστες, οι οποίοι είναι οι εργοδότες στο πλαίσιο της απασχόλησης.
Πέρα από ένα σύστημα που βασίζεται καθαρά στην αυτοαξιολόγηση, η Επιτροπή της ΕΕ έχει αναθέσει τη ρύθμιση όλων των ζητημάτων, από τα ειδικά κριτήρια έως τις εθνικές κατευθυντήριες γραμμές, σε ιδιωτικούς οργανισμούς καθορισμού προτύπων, όπου οι εταιρείες και οι οργανώσεις που σχετίζονται με τις επιχειρήσεις μπορούν να αγοράσουν επιρροή και να καταστήσουν έτσι τη διαδικασία καθαρά φιλική προς τις επιχειρήσεις.
Εξάλλου, η νομική βάση, το άρθρο 114 της ΣΛΕΕ, αποκλείει εξ ορισμού τη ρύθμιση θεμάτων που αφορούν τα δικαιώματα και τα συμφέροντα των εργαζομένων. Κατ’ αρχήν, αυτό δεν θα αποτελούσε πρόβλημα εάν η Επιτροπή της ΕΕ είχε περιοριστεί στη ρύθμιση της διάθεσης στην αγορά στο πλαίσιο μιας απλής οδηγίας για την ασφάλεια των προϊόντων και όχι ταυτόχρονα και της χρήσης της ΤΝ. Η Επιτροπή της ΕΕ καθιστά σαφές στην αιτιολογική σκέψη 1 του σχεδίου νόμου για την ΤΝ ότι πρέπει να αποτραπούν οι εθνικές ρυθμίσεις που θα μπορούσαν να περιορίσουν τη χρήση συστημάτων ΤΝ: «[…] Ο παρών κανονισμός επιδιώκει μια σειρά από επιτακτικούς λόγους δημόσιου συμφέροντος, όπως υψηλό επίπεδο προστασίας της υγείας, της ασφάλειας και των θεμελιωδών δικαιωμάτων, και διασφαλίζει την ελεύθερη διασυνοριακή κυκλοφορία αγαθών και υπηρεσιών που βασίζονται στην ΤΝ, εμποδίζοντας έτσι τα κράτη μέλη να επιβάλλουν περιορισμούς στην ανάπτυξη, την εμπορία και τη χρήση συστημάτων ΤΝ, εκτός εάν επιτρέπεται ρητά από τον παρόντα κανονισμό».
Η Συνομοσπονδία επικρίνει έντονα αυτή την προσέγγιση, καθώς είναι πιθανό να παραβλάψει τα δικαιώματα των εργαζομένων. Κατά τη γενική διατύπωση του προτεινόμενου κειμένου, για παράδειγμα, οι εθνικοί κανονισμοί για την υγεία και την ασφάλεια στην εργασία ή οι κανονισμοί για τη συμμετοχή των εργαζομένων που περιορίζουν τη χρήση της ΤΝ στον χώρο εργασίας μπορεί να παραβιάζουν το ευρωπαϊκό δίκαιο. Ως εκ τούτου, η Συνομοσπονδία ζητά επιτακτικά να διασφαλιστεί από την τρέχουσα νομοθετική διαδικασία ότι τα εθνικά νομικά πλαίσια για την προστασία των δικαιωμάτων των εργαζομένων, όπως τα δικαιώματα ενημέρωσης, διαβούλευσης και συμμετοχής ή οι κανονισμοί για την υγεία και την ασφάλεια στην εργασία, θα παραμείνουν σεβαστά στο ακέραιο.
Παρόλο που η νομοθετική διαδικασία σχετικά με το σχέδιο νόμου για την ΤΝ δεν έχει ακόμη ολοκληρωθεί, είναι σαφές ότι ο νόμος για την ΑΙ δεν θα είναι κατάλληλος για να διασφαλίσει την αποτελεσματική προστασία των εργαζομένων στο πλαίσιο της απασχόλησης, λόγω της νομικής του βάσης και του χαμηλού επιπέδου προστασίας του. Ως εκ τούτου, η Συνομοσπονδία ζητά τη θέσπιση ενός ειδικού νομοθετήματος για τη χρήση αλγοριθμικών συστημάτων στον χώρο εργασίας.
Στην πρότασή της για το σχέδιο Οδηγίας για την εργασία σε πλατφόρμες (PWD)[7], η Επιτροπή της ΕΕ έκανε λόγο για μεγαλύτερη συμμετοχή και διαφάνεια των εργαζομένων στη χρήση αυτοματοποιημένων συστημάτων παρακολούθησης και λήψης αποφάσεων, αλλά το περιόρισε στο πεδίο εφαρμογής της Οδηγίας. Ωστόσο, τα αυτόματα συστήματα διοίκησης χρησιμοποιούνται ευρέως και εκτός της οικονομίας των πλατφορμών. Κλασικά παραδείγματα είναι οι μεγάλοι διαδικτυακοί έμποροι λιανικής πώλησης, που χρησιμοποιούν τέτοια συστήματα εκτενώς στις αποθήκες τους, θέτοντας σε ιδιαίτερα επισφαλή κατάσταση τους εργαζομένους τους. Μια νέα Οδηγία για τα αλγοριθμικά συστήματα στην εργασία θα πρέπει να βασίζεται στην Οδηγία για την απόσπαση εργαζομένων, να καλύπτει τα εναπομείναντα κενά και να εφαρμόζεται σε όλους ανεξαιρέτως τους εργαζόμενους.
Για μια οδηγία της ΕΕ σχετικά με τα αλγοριθμικά συστήματα στο χώρο εργασίας:[8]
Μια οδηγία της ΕΕ για τα αλγοριθμικά συστήματα στον χώρο εργασίας, με βάση το άρθρο 153 της ΣΛΕΕ, θα πρέπει να καθορίζει τα ευρωπαϊκά ελάχιστα πρότυπα για τον σχεδιασμό και τη χρήση των αλγοριθμικών συστημάτων στο πλαίσιο της εργασίας. Το πεδίο εφαρμογής της Οδηγίας θα πρέπει να καλύπτει τα αλγοριθμικά συστήματα με και χωρίς τεχνητή νοημοσύνη[9], πρέπει να είναι όσο το δυνατόν ευρύτερο, αναφερόμενο σε «όλα τα αλγοριθμικά συστήματα που επεξεργάζονται προσωπικά δεδομένα των εργαζομένων, καθώς και τα οποία επηρεάζουν τους εργαζομένους στη σχέση εργασίας ή σε θέματα κατάρτισης ή περαιτέρω εκπαίδευσης».
Είναι αυτονόητο ότι μια Οδηγία δεν μπορεί να λύσει όλα τα προβλήματα. Θα πρέπει να προσπαθήσει να αντιμετωπίσει τα πιο σημαντικά ζητήματα για την αντιμετώπιση της χρήσης αλγοριθμικών συστημάτων στην εργασία. Επιπλέον, η κοινωνική νομοθεσία πρέπει φυσικά να προσαρμοστεί στις νέες ψηφιακές προκλήσεις, είτε μέσω της επιβολής του δικαιώματος αποσύνδεσης είτε μέσω μιας επειγόντως αναγκαίας οδηγίας για τους ψυχοκοινωνικούς κινδύνους.
Η κατευθυντήρια αρχή της νέας Οδηγίας για τα αλγοριθμικά συστήματα στον χώρο εργασίας πρέπει να είναι η διατήρηση της αξιοπρέπειας των εργαζομένων και η αντιμετώπιση της απανθρωποποίησης στην εργασία. Η Συνομοσπονδία πιστεύει ότι το πιο αποτελεσματικό εργαλείο είναι η ενίσχυση των συλλογικών διαπραγματεύσεων των συνδικάτων καθώς και των δικαιωμάτων ενημέρωσης, διαβούλευσης και συμμετοχής των εκπροσώπων των εργαζομένων. Αυτός είναι ο μόνος τρόπος για να διασφαλιστεί ότι η χρήση αλγοριθμικών συστημάτων θα έχει θετικό αντίκτυπο στις συνθήκες εργασίας και στα προσόντα των εργαζομένων. Ως εκ τούτου, η νέα Οδηγία δεν χρειάζεται να ξεκινήσει από το μηδέν, αλλά να βασιστεί σε ένα ήδη υπάρχον ευρωπαϊκό κεκτημένο σχετικά με τα δικαιώματα ενημέρωσης, διαβούλευσης και συμμετοχής των εργαζομένων. Ωστόσο, θα πρέπει να επιβάλει αυτά τα δικαιώματα και να διασφαλίσει ότι τα συνδικάτα και οι εκπρόσωποι των εργαζομένων ενημερώνονται, ζητούν τη γνώμη τους και συμμετέχουν αποτελεσματικά και έγκαιρα στις αποφάσεις σχετικά με την ανάπτυξη, την προμήθεια, την εγκατάσταση, τη διαμόρφωση και την αξιολόγηση/αναθεώρηση των αλγοριθμικών συστημάτων.
Η συμμετοχή των συνδικαλιστικών οργανώσεων και των εκπροσώπων των εργαζομένων θα πρέπει ιδανικά να ξεκινά από το στάδιο του σχεδιασμού και της ανάπτυξης των συστημάτων ΤΝ. Οι προγραμματιστές αλγοριθμικών συστημάτων θα πρέπει να εξετάζουν τα ζητήματα της επαγγελματικής υγείας και ασφάλειας και της προστασίας των δικαιωμάτων των εργαζομένων ήδη από το στάδιο της συγγραφής του κώδικα, ακολουθώντας έτσι μια προσέγγιση καλής εργασίας κατά το σχεδιασμό. Ως εκ τούτου, θα ήταν απαραίτητο οι προγραμματιστές αυτών των συστημάτων να έχουν προηγούμενη γνώση, ευαισθητοποίηση και κατάρτιση όχι μόνο σε θέματα ΤΝ αλλά και σε θέματα ηθικής, ώστε να αποφεύγεται η μεροληψία στον προγραμματισμό. Επιπλέον, ο εργαζόμενος ή/και ο εκπρόσωπός του πρέπει να είναι σε θέση να αποκαταστήσει μια απόφαση που λαμβάνεται από έναν αλγόριθμο ή ένα σύστημα ΤΝ, προκειμένου να διορθωθεί πιθανή μεροληψία. Επιπλέον, πρέπει να διασφαλίζεται ότι τα αλγοριθμικά συστήματα στο πλαίσιο της απασχόλησης έχουν υποβληθεί σε ανεξάρτητη αξιολόγηση των θεμελιωδών δικαιωμάτων και των επιπτώσεων στην ισότητα, η οποία περιλαμβάνει ρητά τη μη διάκριση και την προστασία των δικαιωμάτων των εργαζομένων. Ανεξάρτητοι μηχανισμοί επανεξέτασης και καταγγελιών πρέπει να διασφαλίζουν τη συμμόρφωση με τις συγκεκριμένες απαιτήσεις στον χώρο εργασίας.
Τα δικαιώματα συμμετοχής πρέπει να σχεδιάζονται με τρόπο προσανατολισμένο στη διαδικασία. Τα συνδικάτα και οι εκπρόσωποι των εργαζομένων πρέπει να έχουν το δικαίωμα να επανεξετάζουν τακτικά το σύστημα ΤΑ και να απαιτούν προσαρμογές ή περιορισμούς. Για τον σκοπό αυτό, ο εργοδότης πρέπει να υποχρεούται να διενεργεί αλγοριθμική εκτίμηση επιπτώσεων για αλλαγές στις συνθήκες εργασίας, συμπεριλαμβανομένης της εκτίμησης επιπτώσεων στα θεμελιώδη δικαιώματα και την ισότητα, σε συνεργασία και με πλήρη συμμετοχή των εκπροσώπων των εργαζομένων, πριν από την εφαρμογή του συστήματος. Η αξιολόγηση των επιπτώσεων στα θεμελιώδη δικαιώματα και την ισότητα πρέπει να επαναλαμβάνεται σε τακτική βάση μετά την εφαρμογή[10].
Προκειμένου να διεξάγονται ουσιαστικές διαβουλεύσεις με τους εκπροσώπους των εργαζομένων και τις συνδικαλιστικές οργανώσεις, οι εργοδότες θα πρέπει να υποχρεούνται νομικά να παρέχουν πλήρη και κατανοητή παρουσίαση του τρόπου λειτουργίας του εν λόγω αλγοριθμικού συστήματος, όπως:
- Σε ποια δεδομένα εκπαιδεύεται.
- Ποια δεδομένα επεξεργάζεται.
- Τον τρόπο με τον οποίο επεξεργάζεται τα δεδομένα.
- Πού, για ποιο σκοπό και για πόσο χρονικό διάστημα αυτά αποθηκεύονται.
- Ποιος έχει πρόσβαση στα δεδομένα.
- Ποια διαδικασία και ποιοι χώροι εργασίας επηρεάζονται άμεσα ή έμμεσα και πώς ακριβώς.
- Πώς μεταβάλλονται οι απαιτήσεις και τα προφίλ πίεσης των θέσεων εργασίας.
- Εάν είναι αναγκαία μέτρα επιμόρφωσης / κατάρτισης και ποιος ο απαιτούμενος χρόνος γι’ αυτά.
- Πώς μεταβάλλονται οι απαιτήσεις και τα προφίλ καταπόνησης.
- Εάν αναδύονται νέοι ψυχολογικοί ή φυσικοί κίνδυνοι.
- Η μέριμνα για αποφυγή δυσμενών διακρίσεων.
Τα συνδικάτα και οι εκπρόσωποι των εργαζομένων πρέπει να έχουν πλήρη πρόσβαση στα δεδομένα και τις πληροφορίες του συστήματος ανά πάσα στιγμή, εφόσον απαιτείται. Επιπλέον, πρέπει να έχουν τη δυνατότητα να αξιολογούν τα δεδομένα αυτά και μέσω εξωτερικής εμπειρογνωμοσύνης που χρηματοδοτείται από τον εργοδότη. Το δικαίωμα διορισμού εξωτερικών εμπειρογνωμόνων πρέπει να κατοχυρωθεί στην οδηγία.
Η διαφάνεια και η επεξηγηματικότητα είναι κεντρικής σημασίας για τα αλγοριθμικά συστήματα. Η Συνομοσπονδία είναι της γνώμης ότι η Οδηγία θα πρέπει να ορίζει ότι ο εργοδότης πρέπει να ενημερώνει τους εργαζόμενους σε απλή γλώσσα σχετικά με τη χρήση αλγοριθμικών συστημάτων, όπως η τεχνητή νοημοσύνη, στο συντομότερο δυνατό στάδιο. Αυτό θα πρέπει να περιλαμβάνει, μεταξύ άλλων, πληροφορίες σχετικά με τη φύση, το έργο και το πεδίο εφαρμογής των συστημάτων, ποια δεδομένα υπόκεινται σε επεξεργασία, ποια αποτελέσματα παράγονται και ποιες είναι οι συνέπειες. Οι πληροφορίες θα πρέπει επίσης να περιλαμβάνουν αναφορά στην ανθρώπινη εμπλοκή και λεπτομέρειες σχετικά με τον αρμόδιο φορέα υποβολής καταγγελιών.
Η Συνομοσπονδία είναι πεπεισμένη ότι μια Οδηγία σχετικά με τα αλγοριθμικά συστήματα στον χώρο εργασίας πρέπει να αντιμετωπίσει τις διαφορετικές σχέσεις ισχύος μεταξύ εργοδότη και εργαζομένου. Δεν μπορεί να θεωρηθεί ότι η ατομική συγκατάθεση του εργαζομένου αποτελεί επαρκή βάση για τη χρήση τέτοιων συστημάτων στο χώρο εργασίας. Αντίθετα, απαιτείται συλλογική συμφωνία με το αρμόδιο συνδικάτο ή/και τον εκπρόσωπο των εργαζομένων.
Η ελαχιστοποίηση των δεδομένων υπό επεξεργασία αποτελεί βασική αρχή της ευρωπαϊκής νομοθεσίας για την προστασία των δεδομένων και πρέπει να εφαρμόζεται ιδιαίτερα στα αλγοριθμικά συστήματα στο πλαίσιο της απασχόλησης. Ταυτόχρονα, όμως, τα συστήματα ΤΝ πρέπει να μην εισάγουν διακρίσεις και να είναι αμερόληπτα. Ο Γενικός Κανονισμός για την Προστασία Δεδομένων (ΓΚΠΔ) αποτελεί ήδη ένα αποτελεσματικό εργαλείο. Τα συνδικάτα και οι εκπρόσωποι των εργαζομένων θα πρέπει να αξιοποιήσουν πλήρως τις δυνατότητες που προσφέρει ο ΓΚΠΔ, συμπεριλαμβανομένου του καθολικού δικαιώματος επεξηγηματικότητας (explainability) σε σχέση με τα αλγοριθμικά συστήματα υψηλού κινδύνου, με το δικαίωμα να ζητούν ατομική επεξήγηση. Η Οδηγία για τα αλγοριθμικά συστήματα θα μπορούσε να συγκεκριμενοποιήσει αυτό που μπορεί να θεωρηθεί ως «ειδικός κανόνας» σύμφωνα με το άρθρο 88 του ΓΚΠΔ. Αυτό θα μπορούσε να χρησιμεύσει ως βάση για την εφαρμογή του εν λόγω άρθρου σε όλα τα κράτη μέλη. Σε σχέση με το άρθρο 8 του ΓΚΠΔ, θα πρέπει να επανεξεταστούν και να συμπεριληφθούν επαρκώς οι νομοθετικές διατάξεις που έχουν ενσωματώσει τα κράτη μέλη για να διασφαλίσουν την προστασία των δικαιωμάτων και των ελευθεριών σε σχέση με την επεξεργασία δεδομένων προσωπικού χαρακτήρα των εργαζομένων στον χώρο εργασίας, ιδίως για τους σκοπούς της πρόσληψης προσωπικού, της εκτέλεσης της σύμβασης εργασίας. Παρ’ όλα αυτά, ακόμη και αν αξιοποιηθούν πλήρως οι δυνατότητες, εξακολουθούν να υπάρχουν κενά στην προστασία των δεδομένων στον τομέα της απασχόλησης. Συνεπώς, η Συνομοσπονδία τάσσεται υπέρ της συμπερίληψης στοιχείων προστασίας των δεδομένων των εργαζομένων στην οδηγία για τα αλγοριθμικά συστήματα.
Η απαγόρευση στους εργοδότες να συλλέγουν ορισμένα δεδομένα από τους εργαζομένους πρέπει να εφαρμόζεται αποτελεσματικά. Αυτό περιλαμβάνει, για παράδειγμα, τα δεδομένα εκτός ωραρίου εργασίας ή/και του τόπου απασχόλησης, τα δεδομένα που συλλέγονται σε σχέση με ιδιωτικές συζητήσεις, ιδίως συζητήσεις με εκπροσώπους των εργαζομένων, ή σε ιδιωτικούς χώρους δεν πρέπει να συλλέγονται ή να υποβάλλονται σε επεξεργασία από τον εργοδότη. Αυστηρές απαγορεύσεις ισχύουν επίσης για τη συλλογή ή επεξεργασία οποιωνδήποτε δεδομένων που ενέχουν κινδύνους για την ανθρώπινη αξιοπρέπεια ή τα θεμελιώδη δικαιώματα. Αυτό περιλαμβάνει, ιδίως, δεδομένα που σχετίζονται με τη συναισθηματική και ψυχολογική κατάσταση.
Τα αλγοριθμικά συστήματα, ιδίως η τεχνητή νοημοσύνη, μπορούν να χρησιμοποιηθούν καταχρηστικά για την εκτεταμένη παρακολούθηση και εποπτεία των εργαζομένων. Οι παρεμβατικές μορφές επιτήρησης πρέπει να απαγορευτούν. Ειδικότερα, πρέπει να διασφαλιστεί ότι, ιδίως σε περιόδους αυξανόμενης τηλεργασίας, η εργασία και η ιδιωτική ζωή δεν συγχέονται. Η ιδιωτική ζωή, ιδίως στο σπίτι, πρέπει να διαφυλάσσεται σε κάθε περίπτωση. Ο εργοδότης δεν πρέπει να επιτρέπεται να χρησιμοποιεί αλγοριθμικά συστήματα παρακολούθησης, ιδίως βασισμένα στην τεχνητή νοημοσύνη, στον χώρο εργασίας. Εάν μπορεί να αποδειχθεί δικαιολογημένο συμφέρον, μια συλλογική σύμβαση ή/και επιχειρησιακή συμφωνία με τα συνδικάτα ή/και τους εκπροσώπους των εργαζομένων μπορεί να προβλέπει διαφορετικά.
Η Συνομοσπονδία υποστηρίζει ότι ορισμένα ιδιαίτερα παρεμβατικά συστήματα τεχνητής νοημοσύνης θα πρέπει να απαγορεύονται καταρχήν στο πλαίσιο της εργασίας. Αυτό περιλαμβάνει, ιδίως εφαρμογές που αποσκοπούν στην πραγματοποίηση προβλέψεων και, συνεπώς, παραβιάζουν τα θεμελιώδη δικαιώματα των εργαζομένων, συμπεριλαμβανομένου του δικαιώματος ένταξης σε συνδικαλιστική οργάνωση ή του δικαιώματος να κρίνεται για την πολιτική του/της ένταξη και συμμετοχή. Πλήρως αυτοματοποιημένες αποφάσεις που επηρεάζουν τη σχέση εργασίας ενός εργαζομένου θα πρέπει επίσης να απαγορεύονται. Τα αλγοριθμικά συστήματα μπορούν το πολύ να χρησιμοποιούνται ως συστήματα βοήθειας. Η απόφαση πρέπει να λαμβάνεται από άνθρωπο σύμφωνα με ένα σύνολο διαφανών και αναλογικών κριτηρίων, τα οποία συμφωνούνται με το συνδικάτο ή/και τους εκπροσώπους των εργαζομένων. Η απλή αναφορά στο αποτέλεσμα ενός λογισμικού δεν αρκεί.
Η Οδηγία πρέπει να προβλέπει μια ανθρωποκεντρική διαδικασία λήψης αποφάσεων, καθώς και να παρέχει στον άνθρωπο που λαμβάνει την απαραίτητη προστασία, σε περίπτωση που αποφασίσει να μην ακολουθήσει το αποτέλεσμα ενός αλγοριθμικού συστήματος. Οι εργοδότες πρέπει να είναι υπεύθυνοι για την ύπαρξη αποτελεσματικών διαδικασιών που καταπολεμούν τις «προκαταλήψεις της αυτοματοποίησης» (automisation biases) μεταξύ των ανθρώπινων υπευθύνων λήψης αποφάσεων[11] Αυτό περιλαμβάνει, μεταξύ άλλων, τη διασφάλιση ότι οι ανθρώπινοι επόπτες λαμβάνουν την απαραίτητη εκπαίδευση και έχουν την απαραίτητη εξουσία για την εκτέλεση του ρόλου τους. Για να διασφαλιστεί αυτό, είναι σημαντικό να συμμετέχουν ήδη στη διαδικασία επιλογής τα συνδικάτα και οι εκπρόσωποι των εργαζομένων. Σε αυτό το πλαίσιο, η Oδηγία θα μπορούσε να υπενθυμίσει και να διευκρινίσει τη χρήση του άρθρου 22 του ΓΚΠΔ στο πλαίσιο της εργασίας.
Για τη Συνομοσπονδία, μια Οδηγία σχετικά με τα αλγοριθμικά συστήματα πρέπει επίσης να αντιμετωπίσει το ζήτημα των προσόντων των εργαζομένων και των εκπροσώπων των εργαζομένων. Η Οδηγία πρέπει να δώσει τη δυνατότητα στους εργαζομένους και τους εκπροσώπους τους να απαλλαγούν από τον «αναλφαβητισμό τεχνητής νοημοσύνης»: η απόκτηση απλώς τεχνικών δεξιοτήτων και η χρήση τους «κατά την εκτέλεση της εργασίας», αν και απαραίτητη, δεν είναι αρκετή και εξυπηρετεί κυρίως τα συμφέροντα του εργοδότη. Το να γίνει κάποιος «εγγράμματος στην ΤΝ» σημαίνει να είναι σε θέση να κατανοήσει κριτικά το ρόλο της ΤΝ και τον αντίκτυπό της στην εργασία και το επάγγελμά του και να είναι σε θέση να προβλέψει πώς θα μεταμορφώσει τη σταδιοδρομία και το ρόλο του. Η παθητική χρήση των συστημάτων ΤΝ δεν ωφελεί τους ίδιους τους εργαζόμενους – πρέπει να δημιουργηθεί μια ορισμένη απόσταση για να μπορέσουν να αντιληφθούν τη συνολική επιρροή της ΤΝ.[12]
Η νέα Οδηγία θα πρέπει να παρέχει στους εκπροσώπους των εργαζομένων δικαιώματα ενημέρωσης, διαβούλευσης και συμμετοχής στην έναρξη και την εφαρμογή μέτρων ενδοεπιχειρησιακής κατάρτισης και στο σχεδιασμό της επαγγελματικής κατάρτισης/εξειδίκευσης. Ταυτόχρονα, η Οδηγία πρέπει να παρέχει στους εκπροσώπους των εργαζομένων το δικαίωμα κατάρτισης στη χρήση αλγοριθμικών συστημάτων και τεχνητής νοημοσύνης, χρηματοδοτούμενο από τον εργοδότη. Επιπλέον, οι εργοδότες θα πρέπει να εκπαιδεύονται σε θέματα δεοντολογίας που σχετίζονται με τα συστήματα ΤΝ και στους κινδύνους που μπορεί να προκαλέσει η εισαγωγή ενός συστήματος ΤΝ στον χώρο εργασίας.
Η Οδηγία πρέπει να περιέχει αποτελεσματικές και αποτρεπτικές κυρώσεις, καθώς και μια αποτελεσματική ρήτρα μη υποβάθμισης και μια ρήτρα ευνοϊκότερης ρυθμίσης. Θα πρέπει επίσης να λαμβάνει υπόψη τα διαφορετικά συστήματα της αγοράς εργασίας και να επιτρέπει εθνική ευελιξία, εάν χρειάζεται.
Πηγή: https://www.etuc.org/en/document/etuc-resolution-calling-eu-directive-algorithmic-systems-work
Μετάφραση: Σωτήρης Γούλας, συνεργάτης της δικηγορικής εταιρίας«Γιάννης Καρούζος & Συνεργάτες»
[1] Για τους σκοπούς του παρόντος κειμένου, ο όρος “ΤΝ” ή “σύστημα ΤΝ” χρησιμοποείται χωρίς να διευκρινίζεται αν αναφέρεται στη μηχανική μάθηση, στα αλγοριθμικά (διαχειριστικά) συστήματα ή σε άλλη τεχνολογία.
[2] Ηνωμένα Έθνη (2021): Το δικαίωμα στην ιδιωτική ζωή στην ψηφιακή εποχή. Έκθεση της Ύπατης Αρμοστείας των Ηνωμένων Εθνών για τα Ανθρώπινα Δικαιώματα, Συμβούλιο Ανθρωπίνων Δικαιωμάτων, 84η σύνοδος, σημεία 2 και 3 της ημερήσιας διάταξης
[4] ETUC (2020), «Ψήφισμα σχετικά με τις ευρωπαϊκές στρατηγικές για την τεχνητή νοημοσύνη και τα δεδομένα.»
[5] Ευρωπαϊκή Επιτροπή (2020), «Λευκή Βίβλος για την τεχνητή νοημοσύνη – Μια ευρωπαϊκή προσέγγιση για την αριστεία και την εμπιστοσύνη», COM(2020)65, σ. 18
[6] Ευρωπαϊκή Επιτροπή (2022), «Πρόταση κανονισμού του Ευρωπαϊκού Κοινοβουλίου και του Ευρωπαϊκού Συμβουλίου για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη και την τροποποίηση ορισμένων νομοθετικών πράξεων της Ένωσης», Ευρωπαϊκή Επιτροπή COM(2021)206
[7] Ευρωπαϊκή Επιτροπή (2021), «Πρόταση οδηγίας του Ευρωπαϊκού Κοινοβουλίου και του Ευρωπαϊκού Συμβουλίου για τη βελτίωση των συνθηκών εργασίας στην εργασία σε πλατφόρμες», COM(2021)0762
[8] Για λόγους αναγνωσιμότητας, ο όρος “ΤΝ” ή “σύστημα ΤΝ” αναφέρεται σε αλγοριθμικά συστήματα γενικά, ανεξάρτητα από τον βαθμό πραγματικής ΤΝ.
[9] Για την περιγραφή της ανάγκης ρύθμισης και τα αιτήματα της Συνομοσπονδίας, δεν έχει σημασία αν ένα αλγοριθμικό σύστημα διαχείρισης λειτουργεί με ή χωρίς πραγματική ΤΝ. Ωστόσο, το συγκεκριμένο επίπεδο προστασίας για τον εργαζόμενο μπορεί να διαφέρει ανάλογα με τον βαθμό χρήσης πραγματικής ΤΝ.
[10] Adams-Prassel, Jeremias et all. (2021): «Ρύθμιση της αλγοριθμικής διαχείρισης, Οι προτάσεις του σχεδίου», non paper.
[11] Η προκατάληψη της αυτοματοποίησης αναφέρεται στην τάση του ανθρώπου που λαμβάνει αποφάσεις να πιστεύει απόλυτα τον υπολογιστή και τις συμβουλές του.
[12] Ponce Del Castillo, A (2022), «Τεχνητή νοημοσύνη: γεμίζοντας τα κενά», Κοινωνική Ευρώπη.
αναδημοσίευση από https://dikigorosergatologos.gr/
Πηγή: www.re-union.gr
