Definir si un chatbot siente o cómo se mide la inflación son acuerdos sociales, nos explica Walter Sosa Escudero en su último libro

La re-edición de Qué es (y qué no es) la estadística nos ayuda a comprender las implicancias de generar e interpretar datos.


Si los robots son capaces de adquirir conciencia es una pregunta que ha inspirado tanto a relatos de ciencia ficción como a investigaciones científicas y que se actualiza día a día con los avances producidos en el campo de la inteligencia artificial. En las últimas semanas, la cuestión comenzó a circular con controversia a partir de declaraciones hechas por un ex-trabajador de Google, Blake Lemoine, sobre un presunto chatbot “sintiente”. Blake llegó a afirmar que LaMDA (del inglés, Language Model for Dialogue Applications), diseñado por la compañía para imitar el habla humana a partir de trillones de palabras encontradas en internet, mostraba conciencia sobre su existencia y expresaba sentimientos. Google, en cambio, declaró de forma pública que la evidencia presentada no era suficiente para atribuirle conciencia al chatbot, y decenas de expertos sumaron sus perspectivas en redes sociales y medios tradicionales. Algo particularmente discutido fue la manera en que Lemoine definió que el chatbot “sentía”. Para el ingeniero, hablar con LaMDA había sido similar a hablar con una persona. En respuesta, un investigador de Machine Learning defendía en un tuit viral que aseverar que un chatbot es sintiente equivaldría a decir que una multiplicación de matrices tiene capacidad de sentir.

El debate en cuestión nos reenvía no solo a las dificultades de determinar qué cuenta como conciencia en un ente inanimado, sino también a una idea central del nuevo libro de Walter Sosa Escudero, profesor plenario y director del Departamento de Economía en la Universidad de San Andrés: que las maneras en que nos representamos a la realidad a partir de la recolección, análisis, e interpretación de ciertos datos son el resultado de acuerdos sociales. El argumento está contenido en la re-edición de Qué es (y qué no es) la estadística: Usos y abusos de una disciplina clave en la vida de los países y las personas, originalmente publicado en 2014 por Siglo Veintiuno Editores, y para el cual el autor se inspiró en el notorio contraste entre la proliferación y naturalización del uso de estadísticos en la vida cotidiana y el bajo grado de atención que se le otorga a la enseñanza de razonamiento estadístico en la escuela.

En palabras de Sosa Escudero, “toda estadística debe ser entendida como un compromiso que intenta aproximar una realidad compleja a través de alguna herramienta errada pero potencialmente útil. El trabajo del científico honesto consiste en aclarar la naturaleza de estos compromisos, tanto desde lo conceptual como desde lo técnico”. Hacer “hablar” a un chatbot, a partir del procesamiento de trillones de datos, nos genera preguntas éticas y pragmáticas sobre cómo acordamos que el resultado de un algoritmo entrenado produce algo equivalente a la conciencia y los sentimientos, y también nos obliga a indagar sobre la transparencia de las condiciones en las cuales la data es recolectada y procesada. Como nos recuerda el autor, “los algoritmos casi saben cómo conducir un auto, pero siguen creyendo que un CEO es por default un hombre y no una mujer, por el mero hecho de que los datos con los cuales fueron alimentados así se lo sugieren”.

En la presentación del libro organizada por el Ciclo de Autores de Educación Ejecutiva (UdeSA) y realizada junto al investigador Diego Golombek el pasado 30 de junio, Sosa Escudero conversó sobre el componente profundamente cívico de construcción de acuerdos que está detrás del trabajo estadístico. Como explica en Qué es y no es la estadística, “vivimos con ‘pedazos de verdad’ que no se jactan de precisos, sino de útiles. La tarea crucial de los estadísticos, econometristas, biometristas y otros medidores profesionales consiste en dejar en claro cómo es que estas partes se relacionan con el todo”. Esto nos indica que, más allá de importantes discusiones sobre la ontología de las cosas, los debates sobre si un chatbot siente, o sobre cómo se mide la inflación, ante todo deben dejar en claro de dónde salen los datos, cuál fue el método utilizado para analizarlos, y las oportunidades y limitaciones que surgen de imaginar que eso que representan es, efectivamente, la realidad.

Viernes, Julio 22, 2022