Research Information System
ASOS 11. ULUSLARARASI HUKUK SEMPOZYUMU, Kayseri, Turkey, 15 - 16 May 2025, pp.1, (Summary Text)
THE ETHICAL DIMENSION OF DEVELOPMENTS IN ARTIFICIAL INTELLIGENCE
IN TERMS OF THE PRINCIPLE OF EQUALITY WITHIN THE SCOPE OF THE RIGHT TO WORK
Abstract
The ethical dimension of developments in the field of artificial intelligence
in working life, about the principle of equality in terms of guarantees of the
right to work, focuses on potential risks related to the processing of personal
data and decision-making processes. Artificial intelligence applications should
ensure that the fundamental rights and freedoms of the individuals concerned
are respected, that no rights are violated and that human dignity is protected
in the development and implementation processes. Artificial intelligence is
used in many areas such as customer profile and behaviour analysis, lead
generation, human resources management (recruitment, performance evaluation),
healthcare, local government services, banking and taxation. These applications
are fundamentally data-based and require the processing of personal data.
The principle of equality and non-discrimination is one of the
most critical ethical dimensions of artificial intelligence applications. It is
well known that algorithms used in various fields such as health, insurance or
conditional release decisions can be developed with learning methods based on
race, religion, language, ethnic origin or gender, which creates the risk of
violating the prohibition of discrimination. In AI applications, there is a
risk of discriminatory and unfair outcomes if biases arise in the system due to
incomplete or insufficient data. Deficiencies in the data collection and
preparation phase increase the possibility of discrimination. Preventing the
risk of discrimination and possible violations of the rights of data subjects
at each stage of data processing is an important need about the right to work.
AI-based recruitment systems in the context of the right to work
may give individuals the impression that their characteristics may be used
against them in the recruitment process. Supervision of workers and monitoring
of their activities by AI may lead to arbitrary outcomes. Some studies suggest
that women may be more affected than men by AI-induced redundancies. Moreover,
the use of AI may lead to shifts in the demand for skills and knowledge, with
new jobs requiring new competencies, while the demand for some jobs may
decrease. Inequalities in access, such as the gender gap against women in the
use of artificial intelligence, are also ethical concerns. Therefore, policies
and practices to address these ethical risks are important.
In light of the aforementioned issues, artificial intelligence
systems must be designed with a strong emphasis on privacy and data protection.
Personal data processing activities should be carried out by the law, honestly,
proportionately, accountably and transparently. Data subjects should be
informed about personal data processing activities and the methods used. The
principle of accountability should be respected at all stages and risk
assessment studies based on the active participation of individuals and groups
likely to be affected should be encouraged. It should be ensured that
individuals are not subjected to a decision affecting them based on automated
processing alone, and the role of human intervention in decision-making
processes should be defined. It is important to prioritise artificial
intelligence applications that comply with international human rights standards
and to establish legal safeguards.
Keywords: Right to
Work, Artificial Intelligence, Principle of Equality, Prohibition of
Discrimination, Protection of Personal Data.
ÇALIŞMA HAKKI KAPSAMINDA EŞİTLİK İLKESİ BAKIMINDAN YAPAY ZEKADA
YAŞANAN GELİŞMELERİN ETİK BOYUTU
Dr. Öğr. Üyesi Cem Ümit BEYOĞLU
Özet
Çalışma hayatında yapay zekâ alanındaki gelişmelerin çalışma hakkına
ilişkin güvenceler açısından eşitlik ilkesi üzerindeki etik boyutu, kişisel
verilerin işlenmesi ve karar alma süreçlerindeki potansiyel riskler etrafında
yoğunlaşmaktadır. Yapay zekâ uygulamaları, geliştirilmesi ve uygulanması
süreçlerinde ilgili kişilerin temel hak ve özgürlüklerine saygı gösterilmesini,
hak ihlaline yol açılmamasını ve insan onurunun korunmasını gözetmelidir. Yapay
zekâ, müşteri profilleri ve davranışlarını analiz etmek, müşteri adayı
oluşturmak, insan kaynakları yönetimi (işe alım, performans değerlendirme),
sağlık hizmetleri, yerel yönetim hizmetleri, bankacılık ve vergilendirme gibi
pek çok alanda kullanılmaktadır. Bu uygulamalar temel anlamda veriye dayalıdır
ve kişisel verilerin işlenmesini gerektirir.
Eşitlik ilkesi ve ayrımcılık yasağı, yapay zekâ uygulamalarının en
kritik etik boyutlarından biri niteliğindedir. Sağlık, sigorta veya koşullu
salıverilme kararları gibi çeşitli alanlarda kullanılan algoritmaların ırk,
din, dil, etnik köken veya cinsiyet gibi temellere dayalı öğrenme yöntemleriyle
geliştirilebildiği bilinmektedir, bu da ayrımcılık yasağının ihlali tehlikesi
yaratmaktadır. Yapay zekâ uygulamalarında verilerin eksik veya yetersiz olması
doğrultusunda sistemde önyargıların ortaya çıkması durumunda ayrımcı ve haksız
sonuçlar üretilmesi riski söz konusu olabilecektir. Özellikle veri toplama ve
hazırlama aşamasındaki eksiklikler, ayrımcılık ihtimalini artırmaktadır. Veri
işlemenin her aşamasında ilgili kişilerin aleyhinde meydana gelebilecek
ayrımcılık riskinin ve olası hak ihlallerinin önlenmesi çalışma hakkı açısından
önemli bir ihtiyaçtır.
Çalışma hakkı bağlamında yapay zekâ tabanlı işe alım sistemlerinin
kullanılması, bireyler üzerinde kişisel özelliklerinin işe alım sürecinde
kendileri aleyhinde etki yaratabileceği izlenimini oluşturabilecektir. Yapay
zekâ aracılığıyla çalışanların denetlenmesi ve faaliyetlerinin izlenmesi, keyfi
ayrımcı sonuçlara yol açabilecektir. Bazı araştırmalar, yapay zekâ kaynaklı
işten çıkarmalardan kadınların erkeklere göre daha fazla etkilenebileceğini öne
sürmektedir. Ayrıca, yapay zekâ kullanımı beceri ve birikimlere olan talepte
farklılık yaratabilmekte ve yeni işler için yeni beceri setlerine ihtiyaç
duyulurken bazı işlere talep azalabilmektedir. Yapay zekâ kullanımında
kadınların aleyhinde cinsiyetler arası uçurum gibi erişim eşitsizlikleri de
etik birer sorun niteliğindedir. Bu etik riskleri gidermek için alınması
gereken tedbirler ve uygulamalar önem taşımaktadır.
Değinilen sorunlar kapsamında yapay zekâ sistemlerinin gizlilik ve
veri korumasını sağlayacak şekilde tasarlanması gerekmektedir. Kişisel verilerin
işlenmesi faaliyetleri; hukuka uygun, dürüst, ölçülü, hesap verebilir ve şeffaf
yürütülmelidir. İlgili bireyler, kişisel veri işleme faaliyetleri ve kullanılan
yöntemler hakkında aydınlatılmalıdır. Hesap verebilirlik ilkesi tüm aşamalarda
gözetilmeli ve özellikle etkilenmesi muhtemel birey ve grupların aktif
katılımına dayalı risk değerlendirmesi çalışmaları teşvik edilmelidir.
Bireylerin sadece otomatik işlemeye dayalı olarak kendilerini etkileyecek bir
karara maruz kalmaması sağlanmalı ve karar alma süreçlerinde insan
müdahalesinin rolü tesis edilmelidir. Uluslararası insan hakları standartlarına
uygun yapay zekâ uygulamalarının tercih edilmesi ve hukuki düzenlemelerin
yapılması önem taşımaktadır.
Anahtar Kelimeler: Çalışma
Hakkı, Yapay Zeka, Eşitlik İlkesi, Ayrımcılık Yasağı, Kişisel Verilerin
Korunması.