Une organisation caritative américaine qui gère des écoles à Gaza prévoit d’utiliser l’intelligence artificielle pour surveiller les conversations en classe et signaler les discours qu’elle considère comme « haineux », « incitatifs » ou « antisémites ».
Le Village d’enfants de Gaza, fondé par le neurochirurgien palestino-américain David Hasan, affirme que le système proposé vise à garantir que les enseignants suivent un programme promouvant la paix et la tolérance.
Cependant, ces projets ont suscité des critiques de la part de groupes de défense palestiniens, d’un membre du conseil d’administration de l’association et d’au moins une organisation humanitaire partenaire, selon l’Associated Press.
Selon la proposition, les conversations en classe seraient enregistrées et analysées par un logiciel d’IA. Si le système identifie une langue potentiellement problématique, une alerte serait envoyée à Hasan, qui pourrait alors contacter l’enseignant pour discuter du contexte et fournir des commentaires.
Hasan a déclaré que les enregistrements seraient stockés pendant 72 heures. La technologie aurait été testée et il est prévu de la déployer dans des dizaines de salles de classe, même si l’on ne sait toujours pas quand la surveillance commencera ni quelle langue précise déclenchera les alertes.
On ne sait pas non plus si les enseignants, les élèves et leurs familles ont été informés de ces projets.
Le Village d’Enfants de Gaza est une organisation caritative qui a été approuvée par le Coordonnateur israélien des activités gouvernementales dans les territoires (COGAT) et a été officiellement reconnue par le ministère israélien des Affaires de la diaspora.
Un programme de « déradicalisation »
Hasan, qui enseigne à la faculté de médecine de l’Université Duke en Caroline du Nord, a créé le Village d’enfants de Gaza après avoir fait du bénévolat dans les hôpitaux du territoire pendant la guerre.
Il a déclaré vouloir briser le cycle de violence entre Palestiniens et Israéliens en exposant les enfants à des perspectives différentes dès leur plus jeune âge.
L’association gère des écoles connues sous le nom d’Académies de l’Espoir, qui offrent une éducation ainsi que des repas, des soins médicaux et un soutien psychologique. Son programme est largement basé sur le matériel utilisé par l’Autorité palestinienne, mais Hasan affirme que le matériel qu’il considère comme glorifiant la violence ou promouvant les croyances antisémites et anti-israéliennes a été supprimé.
S’exprimant lors d’un webinaire avec des organisations humanitaires en septembre, Hasan a défendu le système de suivi proposé comme moyen de garantir que les enseignants suivent le programme révisé.
« Je sais que c’est controversé, mais croyez-moi, c’est la seule façon dont nous pensons survivre et dispenser ce programme », a-t-il déclaré.
Hasan a refusé de commenter à Associated Press ou de fournir des exemples de changements apportés au programme.
Le système proposé a suscité des inquiétudes quant aux conséquences potentielles de la surveillance des enfants et des enseignants palestiniens dans un territoire où la technologie de surveillance est devenue particulièrement controversée.
L’armée israélienne a utilisé l’IA pour analyser les communications interceptées et identifier des cibles potentielles pendant sa guerre contre Gaza, intensifiant les craintes des Palestiniens que ces informations puissent être utilisées contre eux.
Amjad Iraqi, analyste principal à l’International Crisis Group spécialisé dans Israël et les territoires palestiniens, a averti que les Palestiniens craignent de plus en plus que leurs paroles et leurs actions puissent être utilisées contre eux.
Les groupes de défense palestiniens se demandent également qui devrait déterminer ce que les enfants de Gaza apprennent et si une organisation soutenue par l’extérieur devrait avoir une telle influence sur le système éducatif.
Ines Abdel Razek, codirectrice de l’Institut palestinien pour la diplomatie publique, a déclaré que cette initiative était préoccupante car elle risquait de contrôler la pensée des générations futures.
Elle a soutenu que l’Autorité palestinienne et l’agence des Nations Unies pour les réfugiés palestiniens, l’UNRWA, devraient être soutenues dans la reconstruction des écoles de Gaza.
La proposition de l’organisme de bienfaisance a également suscité des inquiétudes au sein de ses propres rangs.
Bishara Bahbah, militante politique palestino-américaine et membre du conseil d’administration de l’association, a déclaré que surveiller les performances en classe était différent de l’utilisation de caméras pour restreindre ce que les enseignants et les élèves pouvaient dire.
« Les caméras pour surveiller les performances des étudiants et des enseignants sont acceptables. Mais les caméras pour empêcher les étudiants et les enseignants de pouvoir avoir un échange libre dans une salle de classe ne sont pas acceptables », a-t-il déclaré.
Bahbah a ajouté qu’il n’était pas au courant des plans de surveillance et qu’ils n’avaient pas été évoqués auprès du conseil d’administration.
Un responsable d’une organisation humanitaire partenaire du Gaza Children Village a averti que l’utilisation proposée de l’IA pour surveiller la parole pourrait l’inciter à reconsidérer sa relation avec l’organisation caritative.
Le responsable, qui s’est exprimé sous couvert d’anonymat, a déclaré que l’utilisation de l’IA pour surveiller les paroles des gens avait ouvert une « boîte de Pandore ».
La crise de l’éducation à Gaza
La controverse survient alors que les enfants palestiniens continuent de faire face aux conséquences dévastatrices de la guerre israélienne contre Gaza, qui a laissé une grande partie des infrastructures du territoire en ruines et gravement perturbé l’éducation.
L’UNICEF a signalé que près de 98 % des bâtiments scolaires de Gaza ont été endommagés, tandis que des centaines de milliers d’enfants ont manqué l’école formelle en présentiel pendant des années.
Gaza Children Village affirme que ses académies accueillent des milliers d’enfants dans le centre et le sud de Gaza, dont beaucoup ont perdu leurs parents ou d’autres proches pendant la guerre.
Les partisans de l’association affirment que ses écoles offrent une éducation, une nutrition, des soins de santé et un soutien psychologique essentiels aux enfants vulnérables.
Mais le système de surveillance proposé soulève une question fondamentale : comment concilier les efforts visant à promouvoir la tolérance et à protéger les enfants avec leur droit de s’exprimer librement et d’apprendre dans un environnement qui respecte l’identité et l’autonomie palestiniennes ?
Mohammad AbuAlrob, porte-parole du gouvernement palestinien, a déclaré que le programme de l’Autorité palestinienne était axé sur la tolérance et la justice. Bien qu’il ait déclaré qu’il ne disposait pas de suffisamment d’informations sur le programme d’études de l’association pour pouvoir commenter celui-ci, il a averti que la surveillance des salles de classe franchirait « une ligne importante ».
Le débat sur le contrôle de l’éducation à Gaza restera probablement controversé alors que les Palestiniens tentent de reconstruire leur vie et leurs institutions après des années de guerre et de destruction.
