La nueva serie de estudios de casos examina los desafíos sociales, éticos y políticos de las actividades informáticas actuales.
Los ingenieros y científicos informáticos tradicionales están capacitados para desarrollar soluciones para necesidades específicas, pero no siempre están capacitados para considerar sus implicaciones más amplias. Cada nueva generación de tecnología, y particularmente el surgimiento de la inteligencia artificial, conduce a nuevos tipos de sistemas, nuevas formas de crear herramientas y nuevas formas de datos, para los cuales las normas, reglas y leyes con frecuencia aún no se han puesto al día. Los tipos de impacto que tales innovaciones tienen en el mundo a menudo no se han hecho evidentes hasta muchos años después.
Como parte de los esfuerzos en Responsabilidades sociales y éticas de la informática (SERC) dentro de la Facultad de informática Stephen A. Schwarzman del MIT, una nueva serie de estudios de casos examina los desafíos sociales, éticos y políticos de los esfuerzos actuales en informática con el objetivo de facilitando el desarrollo de “hábitos mentales y de acción” responsables para aquellos que crean e implementan tecnologías informáticas.
“Sin lugar a dudas, los avances en la informática han cambiado gran parte de la forma en que vivimos y trabajamos. Comprender e incorporar un contexto social más amplio es cada vez más crítico”, dice Daniel Huttenlocher, decano del MIT Schwarzman College of Computing. “Esta serie de estudios de casos está diseñada para ser una base para las discusiones en el aula y más allá, con respecto a las implicaciones sociales, éticas, económicas y de otro tipo para que los estudiantes e investigadores puedan perseguir el desarrollo de la tecnología en todos los dominios de una manera holística que aborde estos importantes asuntos.»
Un sistema modular
Por diseño, los estudios de casos son breves y modulares para permitir que los usuarios mezclen y combinen el contenido para adaptarse a una variedad de necesidades pedagógicas. Los editores de la serie, David Kaiser y Julie Shah, quienes son los decanos asociados de SERC, estructuraron los casos principalmente para que fueran apropiados para la instrucción de pregrado en una variedad de clases y campos de estudio.
“Nuestro objetivo era proporcionar una forma perfecta para que los instructores integraran casos en un curso existente o agruparan varios casos para respaldar un módulo más amplio dentro de un curso. También podrían usar los casos como punto de partida para diseñar nuevos cursos que se centren directamente en temas de responsabilidades sociales y éticas de la informática”, dice Kaiser, profesor de Historia de la Ciencia de Germeshausen y profesor de física.
Shah, profesor asociado de aeronáutica y astronáutica y especialista en robótica que diseña sistemas en los que humanos y máquinas operan lado a lado, espera que los casos también sean de interés para personas fuera de la academia, incluidos profesionales de la computación, especialistas en políticas y lectores en general. . Al curar la serie, Shah dice que «interpretamos las ‘responsabilidades sociales y éticas de la informática’ de manera amplia para centrarnos en las perspectivas de las personas que se ven afectadas por diversas tecnologías, así como en las perspectivas de los diseñadores e ingenieros».
Los casos no se limitan a un formato particular y pueden tomar forma de varias formas, desde un artículo de fondo similar a una revista o diálogos socráticos hasta historias de elige tu propia aventura o juegos de rol basados en investigación empírica. Cada estudio de caso es breve, pero incluye notas y referencias que lo acompañan para facilitar una exploración más profunda de un tema determinado. También se considerarán proyectos multimedia. “El objetivo principal es presentar material importante, basado en investigaciones originales, de manera atractiva para audiencias amplias de no especialistas”, dice Kaiser.
Los estudios de casos SERC están especialmente encargados y escritos por académicos que realizan investigaciones centrales sobre el tema del artículo. Kaiser y Shah se acercaron a investigadores del MIT, así como de otras instituciones académicas, para traer una mezcla de voces diversas sobre un espectro de temas. Algunos casos se enfocan en una tecnología en particular o en tendencias entre plataformas, mientras que otros evalúan facetas sociales, históricas, filosóficas, legales y culturales que son relevantes para pensar críticamente sobre los esfuerzos actuales en informática y ciencias de datos.
Los casos publicados en la edición inaugural colocan a los lectores en varios escenarios que los desafían a considerar las implicaciones sociales y éticas de las tecnologías informáticas, por ejemplo, cómo se construyen los servicios de redes sociales y las herramientas de vigilancia; las disparidades raciales que pueden surgir al implementar la tecnología de reconocimiento facial en entornos del mundo real no regulados; los sesgos de los algoritmos de predicción de riesgos en el sistema de justicia penal; y la politización de la recopilación de datos.
«La mayoría de nosotros estamos de acuerdo en que queremos que la informática funcione para el bien social, pero ¿qué bien? ¿El bien de quién? ¿De quién son las necesidades, los valores y las visiones del mundo que se priorizan y de quién se pasan por alto?» dice Catherine D’Ignazio, profesora asistente de ciencias urbanas y planificación y directora del Data + Feminism Lab del MIT.
El caso de D’Ignazio para la serie, en coautoría con Lauren Klein, profesora asociada en los departamentos de Inglés y Teoría y Métodos Cuantitativos de la Universidad de Emory, presenta a los lectores la idea de que si bien los datos son útiles, no siempre son neutrales. “Estos estudios de casos nos ayudan a comprender las historias desiguales que dan forma a nuestros sistemas tecnológicos, así como a estudiar sus resultados y efectos dispares. Son un paso emocionante hacia el pensamiento y la creación holísticos y sociotécnicos».
Revisado rigurosamente
Kaiser y Shah formaron un consejo editorial compuesto por 55 profesores e investigadores sénior asociados con 19 departamentos, laboratorios y centros del MIT, e instituyeron un riguroso modelo de política de revisión por pares comúnmente adoptado por las revistas especializadas. Los miembros del consejo editorial también ayudarán a encargar temas para casos nuevos y ayudarán a identificar autores para un tema determinado.
Para cada presentación, los editores de la serie recopilan de cuatro a seis revisiones por pares, y la mayoría de los revisores provienen del consejo editorial. Para cada caso, la mitad de los revisores provienen de los campos de la informática y las ciencias de la información y la mitad de los campos de las humanidades, las artes y las ciencias sociales, para garantizar el equilibrio de los temas y la presentación dentro de un estudio de caso dado y en toda la serie.
«Durante las últimas dos décadas, me he vuelto un poco hastiado en lo que respecta al proceso de revisión académica, por lo que me animó especialmente ver tanto cuidado y consideración en todas las revisiones», dice Hany Farid, profesor de la Universidad de California en Berkeley con un nombramiento conjunto en el Departamento de Ingeniería Eléctrica y Ciencias de la Computación y la Escuela de Información «El proceso de revisión constructiva hizo que nuestro estudio de caso fuera significativamente más sólido».
El caso de Farid, “Los peligros de la predicción de riesgos en el sistema de justicia penal”, que escribió con Julia Dressel, recientemente estudiante de informática en Dartmouth College, es una de las cuatro obras encargadas que aparecen en la edición inaugural.
Los casos también son revisados por voluntarios de pregrado, quienes ayudan a los editores de la serie a evaluar el equilibrio de cada presentación, la accesibilidad para los estudiantes en múltiples campos de estudio y las posibilidades de adopción en cursos específicos. Los estudiantes también trabajan con ellos para crear problemas de tarea originales y proyectos de aprendizaje activo para acompañar cada estudio de caso, para facilitar aún más la adopción de los materiales originales en una variedad de materias de pregrado existentes.
“Me ofrecí como voluntaria para trabajar con este grupo porque creo que es increíblemente importante que aquellos que trabajan en ciencias de la computación incluyan el pensamiento sobre la ética no como algo secundario, sino integrado en cada paso y decisión que se tome”, dice Annie Snyder, estudiante de segundo año de economía matemática. y miembro del Grupo Asesor de Pregrado del MIT Schwarzman College of Computing. “Si bien este es un problema enorme para abordar, este proyecto es una oportunidad increíble para comenzar a construir una cultura ética entre los estudiantes increíblemente talentosos del MIT que, con suerte, la llevarán a sus propios proyectos y lugares de trabajo”.
Nuevos conjuntos de estudios de casos, producidos con el apoyo del programa Open Publishing Services de MIT Press, se publicarán dos veces al año a través de la plataforma PubPub de Knowledge Futures Group . Los estudios de casos de SERC están disponibles de forma gratuita en acceso abierto, bajo los términos de licencia Creative Commons. Los autores conservan los derechos de autor, lo que les permite reutilizar y volver a publicar su trabajo en publicaciones académicas más especializadas.
“Era importante para nosotros abordar este proyecto de manera inclusiva y reducir la barrera para que las personas pudieran acceder a este contenido. Estos son problemas complejos con los que debemos lidiar, y esperamos que al hacer que los casos estén ampliamente disponibles, más personas se involucrarán en consideraciones sociales y éticas mientras estudian y desarrollan tecnologías informáticas”, dice Shah.
