Era temprano en la jornada escolar cuando un pistolero de 17 años comenzó a disparar en un salón de clases en el complejo de arte de Santa Fe High School, aproximadamente a 30 millas al sureste de Houston, en mayo de 2018.
Aterrorizó a sus compañeros de estudios y profesores durante unos 30 minutos antes de entregarse a la policía, matando a 10, hiriendo a otros 13 y dejando de luto a la ciudad de 13.000 habitantes.
En medio de llamados de los padres para garantizar la seguridad de los estudiantes después del tiroteo, la junta escolar del Distrito Escolar Independiente de Santa Fe aprobó $2.1 millones para seguridad y mejoras del edificio. Eso incluyó el uso de tecnología de reconocimiento facial capaz de alertar a los funcionarios si las cámaras de la escuela detectaban a alguien a quien se le había prohibido la entrada a la propiedad del distrito. El distrito escolar de la vecina ciudad de Texas contrató a un ex agente del servicio secreto para que asesorara sobre seguridad y También adoptó el reconocimiento facial..
Es la misma tecnología que Nueva York prohibido su uso en las escuelas en 2023 a instancias de los padres y defensores de la privacidad de los estudiantes.
Si bien las empresas de seguridad (y algunos distritos escolares) consideran el reconocimiento facial como una herramienta poderosa para prevenir tiroteos en escuelas y salvar vidas, se oponen a un movimiento de estudiantes, tecnólogos y defensores de los derechos civiles que lo ven como una adición teñida de distopía a sistemas ya fuertemente vigilados. escuelas.
Vender seguridad
El verano pasado, una coalición de organizaciones realizó manifestaciones contra el reconocimiento facial en las escuelas en cuatro estados y Washington, DC Fight for the Future, que aboga por la protección de la privacidad en línea, se encuentra entre los grupos que se han unido para presionar al Departamento de Educación de EE. UU. para que recomiende oficialmente contra el uso del reconocimiento facial. en escuelas K-12.
Caitlin Seeley George, directora general y de campañas de Fight for the Future, dice que las empresas de tecnología de reconocimiento facial comenzaron a comercializar cada vez más sus servicios en los distritos escolares durante la pandemia de COVID-19 como un medio para controlar si los estudiantes usaban máscaras faciales o para controlar la asistencia.
La expansión del reconocimiento facial en las escuelas es parte de una creencia de “tecnosolucionismo” de que la tecnología es la respuesta a cualquier problema, dice, a pesar de ser “claramente innecesaria”.
“El costo de ampliar el uso de esta tecnología supera con creces los supuestos beneficios”, afirma Seeley George. “El impacto en los estudiantes en términos de erosión de la privacidad, el efecto paralizador que puede tener, el potencial de identificar erróneamente a los estudiantes y la forma en que proporciona un camino claro desde el comportamiento estudiantil hasta la disciplina y el castigo en el camino de la escuela a la prisión es demasiado Es un riesgo muy grande. Por eso creemos que los estudiantes, los profesores y el personal no deberían estar sujetos a esta tecnología de vigilancia y no deberían utilizarse en absoluto”.
Clarence Okoh, asociado principal del Centro Legal sobre Privacidad y Tecnología de Georgetown, dice que las empresas de vigilancia escolar tienden a realizar campañas de marketing después de los tiroteos en las escuelas.
La industria de la vigilancia escolar hace una estimación <a target="_blank" href="https://marketbrief.edweek.org/education-market/spending-on-school-security-tops-3-billion-with-focus-on-new-surveillance-and-tech/2022/07″ target=”_blank” rel=”noopener nofollow”>3.1 mil millones de dólares en negocios anualmente, añade, y una encuesta entre profesores encontró que más del 40 por ciento de los estudiantes había sido contactado por las autoridades al menos una vez como resultado de programas de vigilancia.
Okoh dice que la práctica de vigilar a los estudiantes (más comúnmente a través de programas que monitorean lo que escriben en las computadoras de la escuela) junto con una mayor aplicación de la ley no conduce a que los estudiantes estén más seguros. Más bien, su mayor impacto es enviar a más estudiantes a través del sistema de justicia juvenil.
“Cualquier conversación sobre seguridad que comience con la vigilancia o la vigilancia policial comienza en el lugar equivocado”, dice Okoh. “Salí de la facultad de derecho demandando a departamentos de policía que estaban involucrados en violaciones sistemáticas de derechos. Y una cosa acerca de la policía es que nunca quiere que le quiten recursos, incluso si no son útiles, incluso si violan los derechos de las personas. Por lo tanto, también hay un interés propio en juego con la tecnología de vigilancia”.
La tecnología creada para detectar el humo de los cigarrillos electrónicos o de los vaporizadores en los baños de las escuelas, por ejemplo, podría provocar que un estudiante sea citado por la policía escolar y remitido a una denuncia. tribunales especializados en vapeo para adolescentes por cargos de posesión de nicotina.
¿Por qué, entonces, se confía tanto en la vigilancia como medida de seguridad escolar?
“Creo que la respuesta breve es que, en la mayoría de las comunidades, la policía es el servicio público mejor financiado disponible”, dice Okoh, “así que, en ausencia de atención de salud mental (y) conductual, programación extraescolar sólida y otras cosas, mantener seguros a los jóvenes, programación artística, infraestructuras sociales reales para la atención: recurrimos a las fuerzas del orden porque es lo único que está disponible”.
La campaña contra el reconocimiento facial en las escuelas cobró fuerza el año pasado, dice Seeley George, cuando la administración Biden ordenó a las agencias gubernamentales que desarrollaran políticas sobre cómo se puede o se debe utilizar la inteligencia artificial dentro de cada departamento. Creó una oportunidad para que el Departamento de Educación se opusiera al reconocimiento facial en las escuelas, dice.
Después de las elecciones presidenciales y el anuncio del presidente electo Donald Trump candidato a secretario de educaciónSeeley George escribió a EdSurge por correo electrónico que “todavía vemos mucho trabajo que las juntas estatales de educación pueden hacer, incluido seguir los pasos que Nueva York ya ha tomado, para proteger a los estudiantes de la tecnología de vigilancia como el reconocimiento facial”.
Privacidad del estudiante
Una voz que con demasiada frecuencia ha quedado fuera de la conversación sobre el uso del reconocimiento facial en las escuelas es la de los estudiantes que están siendo monitoreados, dice Jia, de 17 años, estudiante de último año de secundaria en Nueva York. (Jia solicitó ser identificada por su nombre sólo debido a las preocupaciones de sus padres sobre su privacidad).
Jia se unió a las protestas este verano contra la tecnología de reconocimiento facial organizadas por Encode Justice, una organización sin fines de lucro dirigida por jóvenes que <a target="_blank" href="https://www.washingtonpost.com/politics/2024/05/16/youth-activists-call-world-leaders-set-ai-safeguards-by-2030/” target=”_blank” rel=”noopener nofollow”>defensores de una política centrada en la privacidad sobre inteligencia artificial.
Si bien los distritos escolares están adoptando la tecnología de reconocimiento facial como medida de seguridad contra los tiroteos escolares, Jia dice que siente que su uso genera miedo entre los estudiantes.
“Conozco a muchas personas que van a escuelas públicas y que ya cuentan con tecnologías de vigilancia intensificadas. En las escuelas públicas de Nueva York, especialmente en ciertos distritos, hay muchos detectores de metales y mucha seguridad, y creo que eso crea un efecto paralizador”, dice Jia, “donde la gente siente que no son capaces de expresarse. Se siente más como (no diría como) prisión, sino como un seguimiento muy intenso de la gente. También creo que si vas a una escuela en un determinado estado donde existen riesgos para tus derechos, como los derechos LGBTQ+ o la libertad de expresión, eso también da mucho miedo”.
Jia dice que conoció a estudiantes a través de Encode Justice que dicen haber sido identificados erróneamente por la tecnología de reconocimiento facial en sus escuelas y enviados a la oficina del director para recibir medidas disciplinarias.
Como niña negra y asiática, cuenta las historias de personas negras que fueron identificadas erróneamente a través de cámaras de reconocimiento facial, como cuando el software de reconocimiento facial condujo por error al arresto de un <a target="_blank" href="https://people.com/porcha-woodruff-arrest-ai-facial-recognition-7966714″ target=”_blank” rel=”noopener nofollow”>mujer embarazada de Detroit en un caso de robo de auto, hacer que el uso de la tecnología parezca inseguro.
Seeley George, de Fight for the Future, también dice que los estudiantes con los que ha hablado se muestran escépticos de que la tecnología de reconocimiento facial mejore su seguridad.
“Especialmente los niños que ahora están en la escuela y que han crecido usando la tecnología, entienden que mucha tecnología tiene impactos negativos en nuestra vida cotidiana”, dice Seeley George. “No hace mucho que la gente publicaba en las redes sociales sin pensar que futuros empleadores potenciales leerían lo que publicabas, y ahora esa es una práctica bastante común. Ahora los estudiantes piensan: '¿Es posible que un futuro empleador tenga acceso a un video de mí caminando por la escuela secundaria o de mí en una de mis aulas mirando aburrido por la ventana?'”
Caso de uso del mundo real
Después del tiroteo en la escuela secundaria Santa Fe, los padres llenaron las reuniones de la junta escolar instando al distrito a aumentar las medidas de seguridad. Algunos habían perdido a sus hijos en el tiroteo y otros habían recibido mensajes de texto de despedida de parte del personal de la escuela. aproximadamente 1.400 estudiantes. (Los padres del sospechoso, que ahora tiene 23 años y que se encuentra detenido en un centro de salud mental estatal, fueron recientemente declarado no responsable en el tiroteo.)
El Distrito Escolar Independiente de Santa Fe compró tecnología de reconocimiento facial como parte de una revisión de seguridad el año siguiente. Empleó la tecnología durante cuatro años, hasta que los costos llevaron al distrito a finalizar el servicio.
Rubén Espinoza, jefe de policía de Santa Fe ISD, dice que habría continuado usando la tecnología de reconocimiento facial si el presupuesto lo hubiera permitido y la recomendaría a todos los distritos escolares.
El sistema funcionó al permitir primero que el departamento de policía creara un “banco de fotografías” con imágenes de personas a las que no se les permitía ingresar a la propiedad del distrito escolar. Luego, el software de reconocimiento facial comparó los rostros de todas las personas vistas en sus cámaras con ese banco de fotografías y pudo alertar al personal como Espinoza cuando se detectó a una persona prohibida.
Espinoza dice que las prácticas de tecnología de reconocimiento facial en los distritos escolares deberían garantizar que los datos no se almacenen más allá del tiempo que le toma al sistema determinar si una persona está en el “banco de fotografías” o no.
Para dar una idea de las capacidades de la tecnología, Espinoza dice que una foto de él como un oficial recién nombrado de 21 años fue una de las imágenes utilizadas para probar el sistema cuando se instaló por primera vez.
“Usó una fotografía que tenía 30 años y todavía me reconoció, así que esa es la confianza que tengo en el sistema”, dice. “¿Estoy diciendo que es perfecto? No, pero si alerta, aún necesita que ese elemento humano lo mire para confirmar la alerta. Tenemos que conseguir que alguien mire esa alerta, valide si se trata de la misma persona y luego actúe en consecuencia”.
El sistema de reconocimiento facial hizo ping varias veces, pero no participó en la respuesta a ningún incidente importante en la propiedad escolar durante los cuatro años que fue utilizado por el distrito, dice Espinoza. Considera que, no obstante, fue una herramienta importante, una que es “mal caracterizada por los oponentes”.
“¿Hubo incidentes importantes con armas o algo así? No, pero todos estos son métodos preventivos”, afirma. “La mejor manera de detener un incidente de tirador activo es ser proactivo y prevenirlo desde el principio. Puedo sentarme aquí y contarles cuántos incidentes en los que capturamos a alguien, pero no podemos medir cuántos crímenes realmente evitamos”.
Espinoza espera que el gobierno federal eventualmente ayude a eliminar la carga financiera del reconocimiento facial al poner a disposición subvenciones para pagarlo.
El distrito no podía darse el lujo de reemplazar todas sus cámaras de seguridad con aquellas con capacidad de reconocimiento facial, pero eligió ubicaciones estratégicas para las que se instalaron, dice Espinoza. Aun así, el costo anual de licenciar la tecnología de $1,800 por cámara eventualmente la puso fuera del alcance del distrito.
Corey Click, director interino de tecnología de Santa Fe ISD, dice que desearía que el reconocimiento facial fuera más asequible para los distritos escolares: “Esto es simplemente una herramienta de alto poder que podría usarse en cualquier nivel: en un negocio de drogas o vandalismo o cualquier cosa. para ayudar a identificar algo rápidamente para resolver un incidente o una investigación”.
