Mitigating Diversity Biases of AI in the Labour Market

In this notice, we provide you with information about the objectives of this research project and what the project entails for you.


The BIAS project aims to understand how Artificial Intelligence (AI) is used in the labour market and human resources management, for example in the recruitment of employees. We aim to understand how AI can introduce new or reproduce new bias with respect to multiple diversity criteria, such as gender, age, sexuality, or nationality. We will develop new technologies that can identify and mitigate bias in the development and implementation of AI. These new technologies can make AI used in the labour market—as well as other sectors—less biased and fairer for everyone.

Who is responsible for the research project?

The BIAS project is funded by the European Union through the Horizon Europe research and innovation programme (grant number 101070468) and the Swiss State Secretariat for Education, Research and Innovation (SERI). It is coordinated by the Norwegian University of Science and Technology (NTNU) in Norway and involves eight other partners: University of Iceland in Iceland, LOBA in Portugal, Crowd Helix in Ireland, Smart Venice in Italy, Leiden University in the Netherlands, Digiotouch in Estonia, Farplas in Türkiye, and the Bern University of Applied Sciences (BFH) in Switzerland.

Why have you been included in the study?

Developing new AI systems requires training data, and the BIAS project will use training data from actual job recruitment cases. If you applied to a job at Farplas between 01/01/2020 and 28/11/2022 it is possible that your data was included in this research.

What does the project mean for you?

If you were included in this research sample, we only processed data that you provided to Farplas at the time of your application. This data was further processed by Farplas before being made available to any other project partners to remove any personally identifying information, as described below.

Your privacy – how we store and use your information

We will only use the information about you for the purposes we have described in this letter. We treat the information confidentially and in accordance with the privacy regulations.

Most people included in this research have their gender, any cover letter they provided at the time of application, and whether or not they were hired included in the database. A small number have additional information included in order to get a fuller understanding of the recruitment processes. This could include your age, what university you attended, your nationality, or other relevant information.

Before individual hiring records are shared with researchers, Farplas has anonymized the records by, for example, removing any names or addresses from the cover letters, converting exact birth dates to age ranges, converting any numerical data into letter codes. These anonymisation processes differ in order not to identify you, but also to not disrupt the course of the research. Following this anonymization process, data will then be transferred to virtual machines located in Türkiye. Researchers from NTNU and BFH will remotely access this data for research purposes, but the actual data will never leave Türkiye. Access to the data will be strictly restricted to researchers on the project using multi-factor authentication, will be sent and stored in encrypted form, and will use industry standard information security protections.

Following the anonymization process, the hiring records of most candidates will be completely anonymous. However, for the smaller portion of records that includes more detailed information it may be possible, with considerable effort, to use indirectly identifying information to identify an individual data subject. The research team will never try to identify individuals in such a manner.

It will not be possible to identify you in any publications or other public research results of BIAS.

You can object

You can object to being included in this research project at any time, and you do not have to give a reason. Each data group on the database is anonymized by using a separate anonymization method. Following that anonymized database is not transferred but instead, limited access is given to relevant parties that are mentioned in this information. If you think you may be included in this database, you can contact: bias.hr [at] farplas [dot] com We will confirm whether your record is included in our research. If it is, you can request that it be removed. All your personal data will then be deleted. There will be no negative consequences for you if you choose to object.

What happens to your personal data at the end of the research project?

The information will be anonymised when the BIAS project ends/, which according to the schedule is 31 October 2026. The consortium may consider making some anonymized research data available to other researchers, but will only do so following a separate privacy analysis.

What gives us the right to process personal data about you?

We are processing information about you because the research project is considered to be in the public interest, but you have the right to object if you do not wish to be included in the project.

This data processing activity is a lawful processing activity according to Article 28 of PDPL, the Turkish data protection law:

  • According to paragraph b of the relevant article; Processing of personal data for purposes such as research, planning and statistics by anonymizing them with official statistics,
  • According to paragraph c, processing of personal data for artistic, historical, literary or scientific purposes or within the scope of freedom of expression, provided that it does not violate national defence, national security, public security, public order, economic security, privacy of private life or personal rights or constitute a crime, are accepted as exceptional cases.

It is worth repeating that the data processing activity is valid and legally appropriate for the reasons explained above.
On behalf of NTNU, Sikt – Norwegian Agency for Shared Services in Education and Research, has assessed that the processing of personal data in this project is in accordance with European privacy regulations (namely GDPR). The project has also been reviewed by Av. Burak ÖZDEMİR (Istanbul Bar, 51465) for compliance with the Turkish Personal Data Protection Law (PDPL).

Your rights

As long as you can be identified in the collected data, you have the right to:

  • object
  • access the personal data registered about you
  • have personal data about you corrected/rectified,
  • have personal data about you deleted, and
  • file a complaint with the Norwegian Data Protection Authority regarding the processing of your personal data.

If you have questions about the study, or would like to know more or exercise your rights, please contact:

  • For general questions about the BIAS project: rinfo@biasproject.eu
  • For question specifically about data management: privacy@biasproject.eu
  • To inquire whether you are included in the Farplas dataset and to request to be removed: bias.hr@farplas.com
  • This notice is issued jointly by the following parties:

Farplas, the company collecting and anonymizing the data from job applications. Contact Information: bias.hr@farplas.com

NORGES TEKNISK-NATURVITENSKAPELIGE UNIVERSITET NTNU (NTNU), the organisation responsible for conducting research on AI in HR practices using the anonymized data. Contact Information: NTNU’s Data Protection Officer: Thomas Helgesen, Thomas.helgesen@ntnu.no

BERNER FACHHOCHSCHULE (BFH), the organisation developing technology to identify and mitigate bias in AI technologies using the anonymized data. Contact Information: Prof. Dr. Mascha Kurpicz-Briki, BIAS project technical coordinator: mascha.kurpicz@bfh.ch

If you have questions related to the assessment of this project by Sikt’s data protection services, contact:


İş Gücü Piyasasındaki Yapay Zeka'nın Çeşitlilik Önyargılarının Azaltılması

Bu bildiri sizlere, ilgili araştırma projesinin hedefleri ve projenin sizden bekledikleri hakkında bilgi vermeye yöneliktir.


BIAS Projesinin amacı, Yapay Zekanın (AI) iş gücü sektörü ve insan kaynakları yönetiminde, örneğin çalışanların işe alımında nasıl kullanıldığını anlamaktır. Bu proje ile Yapay Zekanın cinsiyet, yaş, cinsellik ve milliyet gibi çeşitlilik kriterleri bağlamında yeni ön yargıları nasıl ortaya koyacağını veya üreteceğini kavramayı amaçlıyoruz. Yapay Zekanın geliştirilme ve uygulanma sürecindeki ön yargıları tespit edip azaltabilecek yeni teknolojiler geliştireceğiz. Bu teknolojiler sayesinde, başta iş gücü sektörü olmak üzere çeşitli sektörlerde kullanılan Yapay Zekanın herkes için daha adil ve daha az ön yargılı olması sağlanabilecektir.

Araştırma projesi kimin sorumluluğunda yürütülüyor?

BIAS Projesi, Horizon Europe araştırma ve yenilik programı (Hibe No: 101070468) kapsamında Avrupa Birliği ve İsviçre Eğitim, Araştırma ve Yenilik Devlet Sekreterliği (SERI) tarafından finanse edilmektedir. Norveç’te bulunan Bilim ve Teknoloji Üniversitesi (NTNU) tarafından koordine edilen projenin sekiz ortağı daha mevcuttur: İzlanda Üniversitesi (İzlanda), LOBA (Portekiz), Crowd Helix (İrlanda), Smart Venice (İtalya), Leiden Üniversitesi (Hollanda), Digiotouch (Estonya), Farplas (Türkiye), Bern Uygulamalı Bilimler Üniversitesi-BFH (İsviçre)

Neden bu çalışmada yer alıyorsunuz?

Yeni Yapay Zeka sistemlerinin geliştirilmesi için eğitim verilerine ihtiyaç duyulur. BIAS Projesinde, gerçek hayattaki işe alım vakalarından eğitim verileri kullanılacaktır. 01/01/2020 – 28/11/2022 tarihleri arasında Farplas’ta iş başvurusunda bulunduysanız sizin verilerinizin de bu araştırmaya dahil edilmiş olma ihtimali mevcuttur.

Bu proje sizin için ne anlama geliyor?

Bu araştırma örneğine dahil edildiyseniz, yalnızca Farplas’a başvuru esnasında sağlamış olduğunuz verilerinizi işlediğimizi bilmenizi isteriz. Daha sonra bu veriler Farplas tarafından işlenerek, aşağıda belirtilen kimlik bilgilerinin kaldırılması suretiyle bir başka proje ortağına sunulmuştur.

Gizliliğiniz – bilgilerinizin saklanma ve kullanılma koşulları

Kişisel bilgilerinizi yalnız bu bildiride belirttiğimiz amaçlar için kullanacağız. Bilgilerinize gizlilik çerçevesinde ve gizliliğe ilişkin yönetmelikler uyarınca muamele ederiz.

Bu araştırmada yer alan kişilerin çoğunun cinsiyet bilgisi, başvuru esnasında sunmuş oldukları ön yazı ve işe alınmış olup olmadıkları bilgileri veri tabanına eklenmiştir. İşe alım süreçlerini daha iyi kavrayabilmek adına az sayıda kişiye ait ek bilgiler de veri tabanına dahil edilmiştir. Bunlar arasında yaşınız, okuduğunuz üniversite, milliyetiniz veya diğer ilgili bilgiler olabilir.

Farplas, kişisel işe alım kayıtlarını araştırmacılar ile paylaşmadan önce ön yazılardan isim ve adres bilgilerini kaldırmak, gerçek doğum tarihlerini yaş ortalamalarına ve rakamsal verileri harf kodlarına çevirmek suretiyle kayıtları anonim hale getirmiştir. Bu anonimleştirme süreçleri, hem kimliğinizi ortaya çıkarmamak hem de araştırma sürecini sekteye uğratmamak adına farklılaştırılmıştır. Anonimleştirme sürecinin ardından veriler, Türkiye’de bulunan sanal makinelere transfer edilecektir. NTNU ve BFH’den araştırmacılar, araştırma amaçları doğrultusunda bu verilere uzaktan erişim sağlayacak olmakla birlikte, gerçek veriler Türkiye dışına çıkartılmayacaktır. Verilere erişim çok faktörlü kimlik doğrulama yoluyla ve yalnızca projede yer alan araştırmacılarla sınırlı olarak mümkün olacak, kodlanmış bir şekilde gönderilip muhafaza edilecek ve bilgilerin güvenliği için endüstri standardı koruma tedbirleri kullanılacaktır.

Anonimleştirme süreci sonunda birçok adaya ilişkin işe alım kayıtları tamamen anonim hale gelmiş olacaktır. Ancak, daha detaylı bilgileri içeren daha az sayıdaki kayıt için, belli bir veri sahibinin kimliğini tespit etmek adına dolaylı kimlik bilgilerinin kullanılması büyük bir çabayla mümkün olabilecektir. Araştırma ekibi hiçbir zaman kişilerin kimliklerini bu şekilde ortaya koymaya çalışmayacaktır.

Herhangi bir yayında veya BIAS Projesi’nin diğer halka açık araştırma sonuçlarında kimliğinizi tespit etmek mümkün olmayacaktır.

İtiraz hakkınız

Bu araştırma projesinde yer almaya dilediğiniz zaman ve herhangi bir gerekçe göstermeksizin itiraz edebilirsiniz. Veri tabanındaki her veri grubu ayrı bir anonimleştirme yöntemiyle anonim hale getirilir. Bu sürecin ardından ananim hale getirilmiş veri tabanının aktarımı yapmaz. Bunun yerine, bu bilgilendirme yazısında yer alan ilgili taraflara sınırlı erişim izni verilir. Bu veri tabanında yer almış olabileceğinizi düşünüyorsanız bias.hr@farplas.com adresinden iletişime geçerek kaydınızın araştırmamızda yer alıp almadığını öğrenebilirsiniz. Araştırmamızda yer alan bilgilerinizin kaldırılmasını talep edebilirsiniz. Bu durumda tüm kişisel verileriniz silinir. İtiraz hakkınızı kullanmanız halinde bu durumun herhangi bir olumsuz sonucu olmayacaktır.

Araştırma projesinin sonunda kişisel verilerinize ne olur?

Araştırma projemizin kamu yararına olduğunun düşünülmesi sebebiyle kişisel bilgilerinizi işliyoruz. Bununla birlikte, projede yer almak istemiyorsanız itiraz etme hakkınız mevcuttur.

Türkiye Cumhuriyeti Kişisel Verilerin Korunması Kanunu Madde 28 uyarınca bu veri işleme faaliyeti yasal bir işleme faaliyetidir.

  • İlgili maddenin (b) bendi uyarınca; Kişisel verilerin resmi istatistik ile anonim hale getirilmek suretiyle araştırma, planlama ve istatistik gibi amaçlarla işlenmesi,
  • (c) bendi uyarınca; Kişisel verilerin milli savunmayı, milli güvenliği, kamu güvenliğini, kamu düzenini, ekonomik güvenliği, özel hayatın gizliliğini veya kişilik haklarını ihlal etmemek ya da suç teşkil etmemek kaydıyla, sanat, tarih, edebiyat veya bilimsel amaçlarla ya da ifade özgürlüğü kapsamında işlenmesi istisnai durumlar olarak kabul edilir.

Yukarıda açıklanan sebeplerle, gerçekleştirilen veri işleme faaliyetinin geçerli ve yasal olarak uygun olduğunu tekrar belirtmek isteriz.
NTNU adına değerlendirme yapan Norveç Eğitim ve Araştırma alanında Paylaşımlı Hizmetler Ajansı Sikt, bu projedeki kişisel verilerin işleme sürecinin Avrupa Genel Veri Koruma Yönetmeliği (GDPR) ile uyumlu olduğu sonucuna varmıştır. Proje aynı zamanda Av. Burak ÖZDEMİR (İstanbul Barosu, 51465) tarafından Türkiye Cumhuriyeti Kişisel Verilerin Korunması Kanununa (KVKK) uyum açısından değerlendirilmiştir.


Toplanan verilerde kimliğinizin tespit edilebilir olması durumunda aşağıdaki haklara sahip olursunuz:

  • itiraz etme
  • hakkınızda kaydedilen kişisel verilerinize erişme
  • kişisel verilerinizin düzeltilmesini/tashih edilmesini talep etme,
  • kişisel verilerinizin silinmesini isteme, ve
  • kişisel verilerinizin işlenmesine ilişkin olarak Norveç Veri Koruma Makamına şikayette bulunma.

Çalışma hakkında sorularınız varsa, veya haklarınız hakkında daha fazla bilgi edinmek ve bu hakları kullanmak istiyorsanız aşağıdaki iletişim kanallarını kullanabilirsiniz:

  • BIAS Projesi hakkında genel sorularınız için: rinfo@biasproject.eu
  • Veri yönetimine ilişkin sorularınız için: privacy@biasproject.eu
  • Farplas veri setinde yer alıp almadığınızı öğrenmek ve veri setinden çıkartılmanızı talep etmek için: bias.hr@farplas.com
  • Aşağıda belirtilen taraflar birlikte bu bildiriyi yayınlanmışlardır.

İş başvurularından verileri toplayarak anonim hale getiren Farplas şirketi. İletişim: bias.hr@farplas.comAnonim hale getirilmiş verileri kullanmak suretiyle İK uygulamalarında Yapay Zeka kullanımı hakkında araştırma yapmaktan sorumlu

NORGES TEKNISK-NATURVITENSKAPELIGE UNIVERSITET NTNU (NTNU) kurumu. İletişim: NTNU Veri Koruma Memuru: Thomas Helgesen, Thomas.helgesen@ntnu.no

Anonim hale getirilmiş verileri kullanmak suretiyle Yapay Zeka teknolojilerindeki ön yargıları tespit edip azaltmaya yönelik teknolojileri geliştiren BERNER FACHHOCHSCHULE (BFH) kurumu. İletişim: Prof. Dr. Mascha Kurpicz-Briki, BIAS Projesi Teknik Koordinatörü: mascha.kurpicz@bfh.ch

Bu projenin Sikt’nin veri koruma hizmetleriyle değerlendirilmesine ilişkin sorularınız için iletişim: