Framers. Viktor Mayer-Schonberger
Читать онлайн книгу.
tirarnos a la piscina.
el problema del marco
Enmarcar es una de las principales cualidades de los humanos que las máquinas no pueden emular. La idea de que los ordenadores y los algoritmos no pueden enmarcar no es nueva. En 1969 uno de los padres de la IA, John McCarthy de la Universidad de Stanford, coescribió un artículo modestamente titulado “Some Philosophical Problems from the Standpoint of Artificial Intelligence” [Ciertos problemas filosóficos desde la perspectiva de la inteligencia artificial]. Entre las dificultades a las que se enfrentaba el campo relativamente nuevo de la IA estaba lo que él denominaba “el problema del marco”.32
Los “marcos” a los que se refería son un poco diferentes a los marcos descritos en este libro, aunque están relacionados. McCarthy escribió sobre la necesidad de representar un “estado del conocimiento” en un momento concreto en matemáticas, lógica y código informático. Desde la década de los setenta hasta la de los noventa se dedicaron numerosos libros, conferencias y doctorados al problema del marco.
Una década y media después de que se publicara el artículo, el filósofo y científico cognitivo Daniel Dennett quedó fascinado por la idea de los marcos cognitivos en un sentido más amplio, una noción mucho más parecida a la que se utiliza en la ciencia de la decisión y en este libro. En un artículo titulado “Cognitive Wheels” [Ruedas cognitivas] desarrolló esa idea mediante tres vívidos escenarios.
Imaginad un robot, sugirió Dennett, cuyas únicas instrucciones sean que tiene que valerse por sí mismo.33 Entonces recibe la información de que hay una bomba programada para detonar en la misma habitación que su batería de recambio. Una vez localizada la habitación en cuestión, ve la batería encima de un carrito. Así que traza un plan para hacerse con la batería arrastrando el carrito fuera de la habitación. Procede a ejecutarlo, pero de repente, ¡BOOM!
La bomba estaba en el carrito. El robot la había detectado, pero no había procesado que al arrastrar el carrito con la batería también se llevaría la bomba. “Volvemos a empezar de cero”, escribió Dennett.
“La solución es obvia –dijeron los diseñadores del ensayo de Dennett–. Tenemos que conseguir que el próximo robot que construyamos no solo reconozca las consecuencias intencionadas de sus actos, sino también los efectos secundarios que producen. Haremos que los deduzca a partir de la información que utiliza para formular sus planes”. Así pues, en el segundo escenario, cuando el robot llega al carrito con la batería, se detiene a considerar las implicaciones de su plan. Deduce que mover el carrito no hará cambiar el color de la habitación, que mover el carrito hará que las ruedas giren, que mover el carrito… ¡BOOM!
“‘Debemos enseñarle la diferencia entre las implicaciones relevantes y las irrelevantes’, dijeron los diseñadores, ‘y enseñarle a ignorar las menos relevantes’”, escribió Dennett. Esta vez el robot se queda fuera de la habitación con la mirada reflexiva, como si fuera Hamlet. “‘¡Haz algo!’, le gritaron. ‘Ya estoy haciendo algo’, replicó. ‘Estoy muy ocupado ignorando miles de implicaciones que he determinado que son irrelevantes. En cuanto encuentro una implicación irrelevante, la pongo en la lista de cosas que debo ignorar y…’” ¡BOOM!
Los tres escenarios de Dennett reflejan los elementos clave de los marcos. En el primer escenario, el robot no supo detectar una causalidad básica. En el segundo, no supo concebir escenarios contrafactuales relevantes a tiempo. En el tercero, se quedó paralizado al aplicar demasiados límites. Según sugiere Dennett, las máquinas son capaces de realizar una gran cantidad de cálculos lógicos y de procesar un gran abanico de datos, pero no pueden enmarcar.
La IA ha evolucionado mucho desde que Dennett escribió estos tres escenarios. Ya no hace falta que los humanos proporcionen normas abstractas a las máquinas. Los métodos más populares de hoy en día como, por ejemplo, el aprendizaje automático y el aprendizaje profundo, permiten que los sistemas sean capaces de mejorarse parcialmente a sí mismos a partir de grandes cantidades de datos. Pero, aunque ahora el proceso sea diferente, las dificultades no han desaparecido. Incluso teniendo una gran cantidad de datos para entrenarse, cuando los robots se enfrentan a una nueva situación como, por ejemplo, una bomba a punto de explotar, fracasan estrepitosamente.
Enmarcar, es decir, capturar parte de la esencia de la realidad a través de un modelo mental con el fin de trazar un plan de acción efectivo, es una capacidad humana, no de las máquinas.
siempre dentro de la caja
Siempre que los libros de crecimiento personal quieren abogar por el pensamiento creativo sin limitaciones sofocantes animan a los lectores a pensar outside the box, literalmente ‘fuera de la caja’. La frase se ha convertido en un cliché, sobre todo en el mundo de los negocios y la dirección de empresa. Esta expresión inglesa proviene de un experimento de psicología empresarial llamado “el problema de los nueve puntos”.34 El académico en dirección de empresas británico John Adair lo popularizó en la década de los sesenta, aunque sus orígenes se remontan varios años atrás. Este problema apareció en el libro titulado Los acertijos de Sam Loyd, que se publicó originalmente en inglés en 1914 en Estados Unidos y que se utilizó en experimentos psicológicos sobre creatividad en la década de los treinta. Incluso se convirtió en una técnica de dirección interna de la Walt Disney Company. Actualmente todavía se siguen publicando periódicamente artículos sobre este problema.
El problema de los nueve puntos consiste en unir tres hileras de tres puntos utilizando únicamente cuatro líneas rectas sin levantar el bolígrafo. Nuestro cerebro enseguida visualiza que los puntos forman un cuadrado, pero la única manera de resolver el problema es trazando líneas fuera de los límites implícitos, de ahí la expresión inglesa think outside the box (literalmente ‘pensar fuera de la caja’). La idea de fondo es que si logramos librarnos de nuestros modelos mentales conseguiremos encontrar las soluciones más fácilmente.
Puede que el problema de los nueve puntos consiga que la gente vea opciones que no se habían planteado ni que existieran, pero eso de “pensar fuera de la caja” no es una metáfora bien fundamentada. Somos seres humanos, por lo que nos resulta imposible no enmarcar. No podemos simplemente dejar de hacerlo; estamos enmarcando constantemente. Lo único que podemos escoger es qué marco queremos utilizar y cómo usarlo. Incluso aunque pudiéramos pensar sin marcos, habría que cuestionar si esto nos aportaría algún beneficio. Los marcos nos imponen límites y sin ellos lo único que tendríamos serían fantasías vívidas que nos impedirían concebir opciones efectivas. Si nos enfrentásemos a una bomba a punto de explotar, al igual que el robot de Dennett, quizá nos quedaríamos esperando una intervención divina o que de repente apareciera un experto en desactivación de bombas, o intentaríamos convencer a la bomba de que no explotase. Todas estas opciones están “fuera de la caja”, pero no nos servirían de mucho.
La capacidad humana de enmarcar nos resulta tan útil precisamente porque permite que nuestra mente deambule pero de manera estructurada, intencionada y limitada. Dentro de la caja es donde ocurre la magia.
De hecho, el propio problema de nueve puntos nos hace llegar a esta conclusión. Este acertijo se puede resolver de distintas maneras: enrollando el papel como si fuera un tubo, doblándolo o cortándolo en pedacitos. O simplemente bastaría con imaginar el rompecabezas resuelto en un espacio de cuatro dimensiones. ¿Que eso no se vale? ¿Por qué no? Cualquier imposición o restricción no es más que otra caja, y nos han pedido deliberadamente que pensemos fuera de ella. Podemos encontrar una solución completamente disparatada y fuera de la caja mental para cada test. Pero eso no nos ayuda a resolver el problema: no nos proporciona una solución viable, una respuesta efectiva.
Para encontrarla debemos limitar nuestra imaginación. Para alcanzar el momento eureka en que encontramos la solución al problema de los nueve puntos, es decir, en que conseguimos unir todos los puntos dibujando líneas fuera de la caja que ha creado nuestra imaginación, tenemos que limitar nuestra manera de pensar a una hoja de papel bidimensional y desestimar otras opciones como por ejemplo doblar y recortar. El problema de los nueve puntos requiere límites. No es un ejemplo de “pensar fuera de la caja”, sino de la capacidad humana de enmarcar. Es un ejemplo de la necesidad de considerar