Es casi seguro que, probablemente sin saberlo, hayas estado ayudando a Google a construir su inteligencia artificial (IA). Cada vez que te conectas a Internet y pinchas en esas cuadrículas con señales de tráfico, motos o semáforos, algunos de esos clics que supuestamente demuestran que eres un ser humano, en realidad se utilizan para construir un bot. Si lo piensas, este proceso denominado reCAPTCHA es muy similar a algunos proyectos de ciencia ciudadana.
Al comparar el reCAPTCHA de Google con proyectos de ciencia ciudadana, James Riley y Will Mason-Wilkes proponen un nuevo concepto: “Dark Citizen Science” o “Ciencia Ciudadana Oscura”. Con esta propuesta quieren ayudar a destapar el trabajo tecnocientífico oculto en el que colaboramos sin sospecharlo.
☑️ Características de la ciencia ciudadana
La definición de ciencia ciudadana es controvertida, pero los autores describen 5 características clave:
- Finalidad. La ciencia ciudadana produce y/o analiza datos para generar nuevo conocimiento.
- Proceso. La sociedad ocupa un lugar central en la producción y/o análisis de los datos que se utilizan para generar este nuevo conocimiento.
- Perceptibilidad. Todas las personas implicadas en los procesos de ciencia ciudadana tienen claro que el objetivo del proceso es generar nuevo conocimiento y dan su consentimiento informado para participar.
- Poder. Los proyectos son una asociación voluntaria y abierta entre personal investigador y ciudadanía, que dependiendo del enfoque operan en una escala móvil de igualdad.
- Efecto público. Por todo lo anterior, la ciencia ciudadana es un bien público.
El proyecto de ciencia ciudadana Galaxy Zoo recluta personas voluntarias para etiquetar imágenes de galaxias. Se muestra una imagen de una galaxia y se pide a los voluntarios que clasifiquen diferentes características morfológicas. Galaxy Zoo está dentro de la plataforma Zooniverse que, en sus propias palabras, es “la mayor y más popular plataforma del mundo para la investigación impulsada por personas”. Al utilizar Zooniverse, se informa claramente a quien participa de que está ayudando a crear nuevo conocimiento científico. Aunque la ciudadanía no decide qué se investiga, sí elige los proyectos en los que participa. Esto ayuda a mantener un equilibrio de poder entre el personal investigador que dirige los proyectos de Zooniverse y las personas que participan de forma voluntaria, consensuada e informada.
La mayoría de quienes usamos Internet nos hemos encontrado alguna vez con un CAPTCHA. El CAPTCHA fue desarrollado en la Universidad Carnegie Mellon para identificar si quien intenta acceder al servicio es un ser humano o un programa automatizado ('bot'). La verificación de usuarios humanos era un servicio muy útil, por lo que los CAPTCHA se generalizaron. Una vez que se estaban resolviendo decenas de millones al día, se pensó que la enorme capacidad intelectual agregada utilizada para resolverlos podía tener otro uso. Así, se diseñó el reCAPTCHA que, en 2009, fue adquirido por Google.
Las iteraciones más recientes de reCAPTCHA nos piden clasificar imágenes de carreteras. Las imágenes se nos muestran dentro de una cuadrícula y se nos pide que seleccionemos todos los paneles que contengan determinados objetos, como semáforos, señales o bicicletas. Mientras demostramos que no somos un robot, Google usa nuestra inteligencia colectiva para resolver problemas de inteligencia artificial. Escondido en la web de Google reCAPTCHA encontramos: "Las imágenes de alta calidad etiquetadas por humanos se compilan en conjuntos de datos que pueden utilizarse para entrenar sistemas de aprendizaje automático". Google está utilizando el trabajo que hacemos al completar reCAPTCHAs no solo por motivos de seguridad, sino también para generar valor.
⚠️ Características de la ciencia ciudadana oscura
En contraste con las cinco características de la ciencia ciudadana, los autores proponen que la ciencia ciudadana oscura puede entenderse de la siguiente manera:
- Finalidad. Al igual que la ciencia ciudadana, la ciencia ciudadana oscura produce y/o analiza datos para generar nuevo conocimiento.
- Proceso. En la ciencia ciudadana oscura, la ciudadanía puede desempeñar su papel en la creación de conocimiento sin ser consciente de que participa.
- Perceptibilidad. Una minoría de las personas implicadas en el proceso tienen claro que su objetivo es generar nuevo conocimiento.
- Poder. Asociación involuntaria, desigual y opaca entre la ciencia y sociedad.
- Efecto público. Es cuestionable hasta qué punto la ciencia ciudadana oscura puede considerarse un bien público.
Teniendo esto en cuenta, podemos ver importantes diferencias entre completar un reCAPTCHA y clasificar galaxias en Galaxy Zoo. En Galaxy Zoo las relaciones són más o menos equitativas. Sin embargo, en reCAPTCHA el equilibrio de poder se inclina a favor de Google. La participación de los usuarios en la creación de conocimiento es involuntaria y desigual.
A pesar de las diferencias entre el reCAPTCHA de Google y acciones de ciencia ciudadana como Galaxy Zoo, los autores plantean que incluso las formas idealizadas de ciencia ciudadana pueden crear problemas de explotación y mano de obra desplazada. En el caso de Galaxy Zoo, las tareas que llevan a cabo los científicos ciudadanos no sólo son análogas a la labor científica tradicional, sino que Riley y Mason-Wilkes creen que se promueven como si sirvieran para sustituirla. Una publicación en la web de Galaxy Zoo celebra las mediciones de las tareas de clasificación de datos distribuidas entre los voluntarios. La unidad de medida se denomina "semana-Kevin". Se refiere a la cantidad de clasificaciones de galaxias que un estudiante de doctorado llamado Kevin podría hacer en una semana. El equipo de Galaxy Zoo ha creado un algoritmo de aprendizaje automático basado en de 7,5 millones de clasificaciones voluntarias para medir la morfología de las galaxias. Este bot tiene una precisión del 99% en comparación con personas expertas.
Este proceso se refleja tanto en la ciencia ciudadana como en la ciencia ciudadana oscura:
- Primero el trabajo tecnocientífico es realizado por voluntariado no remunerado.
- Después, ese trabajo voluntario se utiliza para entrenar algoritmos de aprendizaje automático que pueden reemplazar tanto el trabajo remunerado como el voluntario.
Todo esto sugiere que cuando los proyectos de ciencia ciudadana se combinan con IA, la ciudadanía científica puede estar acabando con su propio rol.
Si bien la ciencia ciudadana puede tener un papel democratizador al ampliar la gama de actores involucrados en la creación de conocimiento, también socavar las condiciones materiales y profesionales de la ciencia.
¿Y tú qué opinas? ¿Crees que la combinación de IA y ciencia ciudadana puede acabar minando la propia participación social? ¿Qué precauciones consideras que se podrían tomar para evitarlo? ¿Qué otras cuestiones tienes en cuenta en tus proyectos de ciencia ciudadana? Déjanos tu opinión en Twitter.