Το έργο KeepA(n)I είναι μια πρωτοβουλία που έχει ως στόχο τη δημιουργία μιας καινοτόμου πλατφόρμας για την ανίχνευση κοινωνικών στερεοτύπων και προκαταλήψεων σε συστήματα που χρησιμοποιούν τεχνητή νοημοσύνης (AI). Ειδικά επικεντρώνεται στις εφαρμογές υπολογιστικής όρασης που χειρίζονται δεδομένα ανθρώπων, προσπαθώντας να αναλύσει και να μετριάσει τις πιθανές αδικίες (unfairness) που προκύπτουν από την άνιση αντιμετώπιση συγκεκριμένων ομάδων χρηστών. Το KeepA(n)I στοχεύει στο να καλύψει το κενό που υπάρχει στον τομέα της ανίχνευσης μεροληψίας και διακρίσεων, παρέχοντας μια πιο βαθιά μεθοδολογική προσέγγιση σε σχέση με τα κοινωνικά στερεότυπα που μπορούν να εμφανιστούν στα δεδομένα και τις αλληλεπιδράσεις των χρηστών με τα συστήματα που χρησιμοποιούν τεχνητής νοημοσύνης.
Σε αντίθεση με τις παραδοσιακές προσεγγίσεις της κοινότητας Fair Machine Learning (Fair ML), που εστιάζουν κυρίως στην αξιολόγηση της δικαιοσύνης τόσο σε επίπεδο ομάδας όσο και σε ατομικό επίπεδο, το KeepA(n)I επιλέγει να επικεντρωθεί σε μια διαφορετική διάσταση: την ανάλυση των κοινωνικών στερεοτύπων και της μεροληψίας, τα οποία αντικατοπτρίζονται στα δεδομένα που χρησιμοποιούνται και στα αποτελέσματα που παράγονται από συστήματα τεχνητής νοημοσύνης. Αυτή η προσέγγιση περιλαμβάνει την εξέταση της δυναμικής των σχέσεων και των αλληλεπιδράσεων μεταξύ των διαφορετικών ομάδων χρηστών και των συστημάτων τεχνητής νοημοσύνης, επιτρέποντας μια πιο λεπτομερή και κοινωνικά προσανατολισμένη κατανόηση του πώς προκύπτουν οι προκαταλήψεις. Με αυτό τον τρόπο, το έργο KeepA(n)I προωθεί μια προληπτική αντιμετώπιση των πιθανών ανισοτήτων.
Μέσω της συμμετοχής των ανθρώπων και της συνεργατικής αξιολόγησης (crowdsourcing), το KeepA(n)I εφαρμόζει μια ποικιλόμορφη και δυναμική προσέγγιση στην αντιμετώπιση των προκαταλήψεων, λαμβάνοντας υπόψη το εκάστοτε πολιτιστικό και χρονικό πλαίσιο. Με άλλα λόγια, οι στερεοτυπικές αντιλήψεις και προκαταλήψεις εξετάζονται σε σχέση με τις πολιτιστικές και κοινωνικές συνθήκες που επικρατούν, προωθώντας έτσι μια πιο προσαρμοστική και ευέλικτη ανάλυση των προβλημάτων μεροληψίας. Οι προκαταλήψεις σε συστήματα τεχνητής νοημοσύνης μπορούν να διαφέρουν σημαντικά ανάλογα με το κοινωνικό πλαίσιο, και η πλατφόρμα του KeepA(n)I επιδιώκει να επιτρέψει την κατανόηση αυτών των διαφορών, ώστε να μπορούν να αντιμετωπιστούν πιο αποτελεσματικά.
Η πλατφόρμα KeepA(n)I έχει σχεδιαστεί έτσι ώστε να προσφέρει εργαλεία και τεχνολογίες που βοηθούν τους προγραμματιστές να εντοπίζουν και να αξιολογούν προκαταλήψεις μέσα στα συστήματα που χρησιμοποιούν τεχνητής νοημοσύνης. Καθώς τα συστήματα αυτά χρησιμοποιούν προηγμένες τεχνικές ανάλυσης εικόνας, είναι πιθανό να επηρεάζονται από τα δεδομένα που τα “εκπαιδεύουν”, τα οποία μπορεί να περιέχουν υποσυνείδητα κοινωνικά στερεότυπα. Για τον λόγο αυτό, το KeepA(n)I επιδιώκει να δημιουργήσει ένα πλαίσιο μέσω του οποίου οι προγραμματιστές και οι σχεδιαστές μπορούν να κατανοούν καλύτερα αυτές τις δυναμικές, προσφέροντας λύσεις που συμβάλλουν στην προώθηση μιας πιο δίκαιης τεχνητής νοημοσύνης που να περιλαμβάνει όλους τους χρήστες, ανεξαρτήτως φύλου, φυλής, ή άλλων κοινωνικών χαρακτηριστικών.
Επιπλέον, η πλατφόρμα του KeepA(n)I δεν περιορίζεται μόνο στους προγραμματιστές και τους σχεδιαστές συστημάτων AI. Παρέχει επίσης μια σειρά από εργαλεία που είναι διαθέσιμα για ερευνητές, εκπαιδευτικούς και άλλους επαγγελματίες που ενδιαφέρονται για την επίδραση της μεροληψίας στις εφαρμογές υπολογιστικής όρασης και τεχνητής νοημοσύνης γενικότερα. Η πλατφόρμα KeepA(n)I μπορεί να βοηθήσει στην ευαισθητοποίηση σχετικά με το ζήτημα της μεροληψίας και των κοινωνικών στερεοτύπων, και προωθεί την κριτική σκέψη σε σχέση με το πώς οι τεχνολογίες αυτές μπορούν να διαμορφώσουν τον τρόπο που αντιλαμβανόμαστε τον κόσμο γύρω μας.
Η σημασία του έργου KeepA(n)I βρίσκεται στον τρόπο με τον οποίο διαμορφώνει έναν πιο συνειδητοποιημένο τεχνολογικό τομέα, ο οποίος κατανοεί ότι οι εφαρμογές της τεχνητής νοημοσύνης δεν είναι ουδέτερες, αλλά αντίθετα, διαμορφώνονται από τα δεδομένα που τις εκπαιδεύουν, τις αλληλεπιδράσεις με τους χρήστες τους και το σκοπό που εξυπηρετούν. Η πλατφόρμα συμβάλλει στην ανάπτυξη τεχνικών που μπορούν να εντοπίσουν τέτοια φαινόμενα μεροληψίας, βοηθώντας έτσι στην εξέλιξη συστημάτων που λειτουργούν με μεγαλύτερη διαφάνεια και υπευθυνότητα.
Πέραν της τεχνολογικής πλευράς, το KeepA(n)I έχει και ένα σημαντικό κοινωνικό ρόλο, καθώς προωθεί την ισότητα και τη συμπερίληψη μέσα από την εξάλειψη των προκαταλήψεων. Με την αύξηση της χρήσης της τεχνητής νοημοσύνης σε διάφορες πτυχές της ζωής μας – από την αναγνώριση προσώπου μέχρι τις αυτοματοποιημένες αποφάσεις σε θέματα πρόσληψης, υγείας και εκπαίδευσης – είναι κρίσιμο να διασφαλίσουμε ότι αυτά τα συστήματα λειτουργούν δίκαια και με σεβασμό προς την ποικιλομορφία των ανθρώπων που εξυπηρετούν.
Με άλλα λόγια, το KeepA(n)I είναι μια πρωτοβουλία που όχι μόνο προσπαθεί να αντιμετωπίσει τα τεχνολογικά ζητήματα της μεροληψίας αλλά και να διασφαλίσει ότι η τεχνητή νοημοσύνη θα αναπτύσσεται με κοινωνικά υπεύθυνο τρόπο. Με την παροχή εργαλείων και γνώσης σε όσους εργάζονται στον τομέα της τεχνητής νοημοσύνης, το KeepA(n)I στοχεύει να επιτύχει μια ευρεία κατανόηση των κοινωνικών στερεοτύπων και να προωθήσει μια τεχνολογία που θα είναι πραγματικά χωρίς αποκλεισμούς και προσανατολισμένη στην ισότητα.
Εν κατακλείδι, το KeepA(n)I επιδιώκει να ενισχύσει τη διαφάνεια, τη δικαιοσύνη και την κοινωνική συνείδηση στον τομέα της τεχνητής νοημοσύνης, ενώ προσφέρει πρακτικές λύσεις για την ανίχνευση της μεροληψίας στις εφαρμογές υπολογιστικής όρασης.
Το έργο KeepA(n)I, ολοκληρώθηκε τον Ιούνιο του 2024 και έλαβε χρηματοδότηση από το Ίδρυμα Έρευνας και Καινοτομίας (ΙΔΕΚ) στο πλαίσιο της χορηγίας EXCELLENCE/0421/0360.
Συντονίστρια του έργου ήταν η Δρ. Ευγενία Χριστοφόρου με ανάδοχο φορέα το Κέντρο Αριστείας CYENS, με την υποστήριξη της ερευνητικής ομάδας fAIre MRG υπό την διεύθυνση της Δρ. Jahna Otterbacher και συνεργαζόμενο φορέα την εταιρεία Algolysis Ltd. Περισσότερες πληροφορίες για το έργο καθώς και τα επιστημονικά του αποτελέσματα βρίσκονται στην ιστοσελίδα, https://faire.cyens.org.cy/projects/keepani/.
