Diseño de la Interacción Basado en Valores Humanos

Rosa Mª Gil Iranzo

rgil.iranzo@gmail.com

César A. Collazos

ccollazo@unicauca.edu.co

1. Introducción

Se aborda el concepto de la Interacción y la Ética desde un punto de vista holístico. Actualmente, se encuentran cada vez más proyectos transdisciplinarios, este capítulo pretende mostrar el porqué dos disciplinas que provienen de dos ámbitos tan dispares deben alimentarse la una a la otra y generar nuevas formas de conocimiento.

Hoy en día es inevitable la importancia de la ciencia y la tecnología en nuestras vidas diarias, llegando a convertirse en un factor de desarrollo de la humanidad. Sin embargo, el desarrollo acelerado de la sociedad digital y la economía del conocimiento genera transformaciones culturales y de producción/consumo, a la vez que moviliza comportamientos individuales, ahondando las brechas sociales, esto es desigualdades entre pueblos y comunidades, especialmente por la fuerte incursión de las hoy denominadas tecnologías exponenciales, dentro de las cuales destacan: Inteligencia Artificial, Internet de las Cosas, Big data, Robótica, Nanotecnología, Realidad Virtual/Aumentada, entre otras. Tan vertiginosa penetración de la ciencia y la tecnología en la totalidad de escenarios humanos, nos conduce a reflexionar cuidadosamente sobre las consecuencias e impactos que esta causa a la naturaleza y a la sociedad; razón por la cual surge la necesidad de reflexionar sobre su dimensión ética. Tomar conciencia y realizar valoraciones sobre aspectos éticos no debe quedarse a nivel individual, sino que deben realizarse a un nivel social. Es preciso comenzar a definir estrategias a corto tiempo y revertir tendencias negativas con reglamentaciones, normativas éticas y jurídicas para la creación científica y tecnológica, así como para su aplicación práctica.

Los avances tecnológicos nos enfrentan a nuevos retos como sociedad y como seres humanos. Un enfoque humanístico es necesario en proyectos tecnológicos para evitar posibles desastres que no solo afectan a nuestra especie sino al hábitat donde vivimos.

Dos factores que empeoran este hecho es que por un lado la tecnología está evolucionando a un ritmo superior al que las personas somos capaces de asimilar,de entender los nuevos comportamientos que se emergen de la utilización de los nuevos dispositivos y por otra parte las máquinas que construimos son cada vez más autónomas. La ciencia ficción ha especulado durante años sobre ese escenario proponiendo soluciones, la mayoría de veces bastante catastrofistas, sin embargo, es necesario encontrar un nexo en común, donde la convivencia sea satisfactoria para todos pues es una inspiración para los nuevos diseñadores y desarrolladores. Desde esta perspectiva se aborda este documento que pretende ser un espacio de reflexión de reflexión sobre cómo deben ser diseñados los componentes tecnológicos considerando los valores humanos.

2. Conceptualización de la ética

La palabra proviene del latín ethĭcus, y a su vez del griego antiguo ἠθικός (êthicos), derivado de êthos, que significa ‘carácter’ ‘perteneciente al carácter’. La ética es parte de la filosofía que se preocupa de las cuestiones morales. Thomas Khun (Khun, 2012) en su libro se adentra en el concepto de paradigma y revolución científica. A pesar de tener alrededor de más de 60 años, este documento aún sigue vigente. Eso es así, porque para poder entender la ética y la moral en un cierto momento y en un cierto lugar es necesario entender el momento histórico en el que tiene lugar, los aspectos culturales, además de empatizar con las restricciones de las personas en ese contexto. Para entender este concepto, imaginemos que estamos en el 205 aC, y nos preguntamos cómo demostrar que la tierra es aproximadamente esférica (no es plana) y además nos atrevemos a aventurar a decir su radio. Eratóstenes hizo precisamente eso y lo calculó con los elementos que tenía a mano, cuando sus sentidos le indican que habitaba un mundo plano. Los modelos científicos cambian, sin embargo, no son verdaderos para pasar a ser falsos, sino que siempre son verdaderos en un contexto específico, y lo que es aceptable en un contexto puede no serlo en un contexto diferente. Este es el punto de vista del que vamos a partir, en crear desarrollos que sean buenos, entendidos como aceptables.

2.1 Los mitos como origen de la moral y la ética

(Singer, P., 2019) apunta que los grupos humanos han necesitado un mito para poder explicar de donde emergió la moralidad y ética en la humanidad. De acuerdo con la enciclopedia Británica, si nos preguntamos sobre el origen de la ética habitualmente se recurre a localizar los primeros escritos que puedan demostrar que una civilización ha documentado costumbres, valores o reglas de convivencia. Es en la cuna del nacimiento de la civilización donde se encuentra el primer código donde se constata la inclusión de reglas que se asocian a valores morales, el cual es conocido como el código de Hammurabi (1760 a. C). En dicho código (Gutiérrez, A) fue donde apareció regulada por primera vez la conocida Ley del Talión, estableciendo el principio de proporcionalidad de la venganza, es decir que a cada agresión se correspondía un castigo equivalente. El Código era muy estricto respecto a las normas familiares y establecía una superioridad del hombre. Sin embargo se respetó la figura femenina y se dispusieron normas que la protegían en casos de violación o injurias. Estaba compuesto por 282 leyes y un epílogo. Existe también, un conjunto de normas que tenían que ver con la vida y la integridad física y otro que se relaciona con la moral pública. Hammurabi recibe dicho código del dios sol Shamash.

2.2 ¿Es la moralidad un concepto global?

Respecto a si el concepto de moralidad es universal, el historiador griego Herodoto arroja luz sobre ello en el siglo V AC. donde relata que el rey persa Darío I (550 y 486 a. C.) convocó a algunos griegos ante él y les preguntó cuánto tendría que pagarles para que comieran los cadáveres de sus padres. Estos se negaron a hacerlo a cualquier precio. Luego convocó a algunos indios que tenían por costumbre comerse los cuerpos de sus padres y les preguntaron qué debería darles para quemar los cuerpos de sus padres. Los indios gritaron que no cabía mencionar un acto tan horrible. Heródoto dibujó la moral obvia: cada nación piensa que sus costumbres son las moralmente correctas.

En el libro “El origen y desarrollo de las ideas morales” (McTaggart, J.,1909) a principios del siglo XX, el antropólogo finlandés Edward Westermarck (1862–1939) comparó las diferencias entre sociedades en asuntos tales como el mal de matar (incluido el asesinato en combate, la eutanasia, el suicidio, el infanticidio, el aborto, sacrificio humano, y duelo); el deber de mantener a los niños, los ancianos o los pobres; formas de relaciones sexuales permisibles; el estatus de la mujer; el derecho a la propiedad y lo que constituye robo; la tenencia de esclavos; el deber de decir la verdad; las restricciones dietarias; preocupación por los animales; deberes hacia los muertos/dioses entre otros.

Westermarck no tuvo dificultad en demostrar una tremenda diversidad en lo que diferentes sociedades consideraron buena conducta en todas estas áreas. A tenor de los hallazgos de Westermarck, ningún principio moral puede ser válido excepto en las sociedades en las que se sostiene. Palabras como bueno y malo simplemente significan, «aprobado en mi sociedad» o «desaprobado en mi sociedad», y así buscar una ética objetiva, o racionalmente justificable, es buscar lo que en realidad es una ilusión.

2.3 La moral y los sentimientos

En el siglo XVIII, Hume (Hume, 1896) considera que los juicios morales se basan en un sentimiento, no reflejando ningún estado objetivo del mundo. De lo que se deduce que los juicios de las personas expresaran sus propios sentimientos, por lo que se desprende que al rechazar el juicio de alguien más como incorrecto sería simplemente decir que los propios sentimientos eran diferentes. Se consideró a partir de Hume hasta mediados del siglo XIX, metaética todo lo concerniente al origen subjetivo/objetivo de la moralidad. Focalizándose en las acciones y el comportamiento en una corriente llamada utilitarismo donde se considera bueno todo aquello que aumenta la felicidad y malo lo que la disminuye (Paley, 2002). Existen algunas diferencias entre los filósofos británicos y continentales, el británico Hobbes por ejemplo tomó el deseo de placer como un hecho inmutable sobre la naturaleza humana y procedió a construir un sistema moral y político para enfrentarlo. Spinoza hizo todo lo contrario. Vio los deseos naturales como una forma de esclavitud. Uno no elige tenerlos por voluntad propia. La voluntad de uno no puede ser libre si está sujeta a fuerzas fuera de sí misma. Por lo tanto, el interés real no reside en satisfacer estos deseos, sino en transformarlos mediante la aplicación de la razón. Por lo tanto, Spinoza se opone no solo a Hobbes, sino también a la posición tomada por Hume, ya que Spinoza vio la razón no como el esclavo de las pasiones, sino como su amo. Otra discrepancia es que, mientras que los humanos individuales y sus intereses separados siempre se asumen en la filosofía de Hobbes, esta separación es simplemente una ilusión desde el punto de vista de Spinoza. Todo lo que existe es parte de un sistema único, que es al mismo tiempo naturaleza y Dios. (Spinoza era un panteísta, creyendo que Dios existe en todos los aspectos del mundo y no aparte de él). Los seres humanos también son parte de este sistema y están sujetos a sus leyes racionalmente necesarias por lo que se hace evidente que sería irracional desear que las cosas sean diferentes de como son. Esto significa que es irracional envidiar, odiar y sentir culpa, ya que estas emociones presuponen la posibilidad de que las cosas sean diferentes. Entonces, uno deja de sentir tales emociones y encuentra paz, felicidad e incluso libertad, en términos de Spinoza, la única libertad que puede existir, al comprender el sistema del cual forma parte. Así mismo se puede llegar a encontrar que la naturaleza cotidiana de uno puede no ser la verdadera naturaleza de uno, de forma que para alcanzar la libertad se necesita de la razón y aceptar que los humanos son parte de una unidad más grande. El filósofo francés Rousseau en su obra El contrato social (1762) exigía el gobierno de la «voluntad general». Actualmente, se da por sentado que en cualquier sociedad los intereses de diferentes ciudadanos estarán en conflicto, y que, como resultado de cada mayoría que logre que se aplique su voluntad, habrá una minoría que no lo haga. En cambio para Rousseau, la voluntad general no es la suma de todas las voluntades individuales en la comunidad, sino la verdadera voluntad común de todos los ciudadanos. Rousseau debe asumir que existe un bien común que todos los seres humanos comparten y, por lo tanto, sus verdaderos intereses coinciden. Sin embargo, esto no es un sacrificio de su verdadero interés, ya que gracias a la razón alcanza la libertad moral.

Un exponente del utilitarismo fue el británico Bentham (Rosen, 2007), cuyas tesis se utilizarían más bien en justificar que en fundamentar las acciones morales. Pues, el principio por el cual se rigen los seres humanos es dual: el placer y el dolor. Cualquier cosa que parezca buena debe ser directamente placentera o pensada como un medio para el placer o para evitar el dolor. A la inversa, cualquier cosa que parezca mala debe ser directamente dolorosa o pensada como un medio para el dolor o para la privación del placer. A partir de esto, Bentham argumentó que las palabras correcto e incorrecto pueden ser significativas solo si se usan de acuerdo con el principio utilitario, de modo que todo lo que aumenta el excedente neto de placer sobre el dolor es correcto y todo lo que disminuye es incorrecto siguiendo los postulados de Paley (1743-1805, conocido por el argumento teleológico de la existencia de Dios). Bentham luego consideró cómo se debe sopesar las consecuencias de una acción y, por lo tanto, decidir si es correcta o incorrecta. Para ello, se debe tener en cuenta los placeres y dolores de todos los afectados por la acción, haciéndose de manera equitativa. También se debe considerar cuán seguros o inciertos son los placeres y dolores, su intensidad, así como el tiempo de duración, y si tienden a dar lugar a nuevos sentimientos del mismo tipo o del opuesto. Bentham no permitió distinciones en la calidad del placer o el dolor como tal. Esto llevó a sus oponentes a caracterizar su filosofía como algo apropiado para los cerdos. Sería en el siglo XIX cuando John Stuart Mill (1806-1873, famoso por justificar la libertad del individuo en oposición al estado ilimitado y al control social) refina el utilitarismo, de forma que distingue en la calidad de los placeres. Immanuel Kant (1724-1804) se considera uno de los filósofos más influyentes en la filosofía europea, su contribución más distintiva en la ética fue su insistencia en que las acciones de uno poseen un valor moral solo cuando uno cumple su deber por su propio bien. Kant introdujo esta idea por primera vez como algo aceptado por la conciencia moral común de los seres humanos y sólo más tarde trató de demostrar que es un elemento esencial de cualquier moralidad racional. La afirmación de Kant de que esta idea es fundamental para la conciencia moral común expresada, aunque de forma explícita y extrema, es una tendencia de la ética judeocristiana; también reveló la evolución de la conciencia ética occidental desde la época griega.

La ética del siglo XX y principios del XXI se caracteriza por la llamada ética del egoísmo. La lista de corrientes es muy extensa: ética de los deberes prima facie donde se otorga un peso diferente a cada deber: fidelidad, reparación, gratitud, beneficencia, no maleficencia y superación personal. Ética Feminista, Ética de la Virtud, Teorías de los derechos, Ética de las Leyes Naturales, Teoría de la Justicia de Rawls, sin embargo la que se relaciona en mayor medida con la ciencia es la llamada Ética del Egoísmo. Esta teoría presenta dos ventajas fundamentales para los científicos: evita el posible conflicto entre moralidad y el propio interés, así como que el propio interés siempre es racional. Se distinguen dos formas de egoísmo: el individuo que piensa que todo el mundo debe hacer lo que vaya en su interés y el egoísmo en forma universal, donde todo el mundo debería hacer lo que va en su propio interés. Desafortunadamente para el egoísmo ético, la afirmación de que todos estarán mejor si cada persona hace lo que es en su propio interés es incorrecta. Esto se demuestra en un experimento muy repetido en la comunidad científica conocido como «el dilema del prisionero» en la llamada teoría de juegos a finales del siglo XX. El dilema del prisionero básico es una situación imaginaria en la que dos presos son acusados de un delito. Si uno confiesa y el otro no, el preso que confiesa será liberado de inmediato y el preso que no lo haga será encarcelado por 20 años. Si ninguno de los dos confiesa, cada uno será retenido por algunos meses y luego liberado. Y si ambos confiesan, cada uno será encarcelado durante 15 años. Se estipula además que los prisioneros no pueden comunicarse entre sí. Si cada uno de ellos decide qué hacer puramente sobre la base del interés propio, se dará cuenta de que es mejor para él confesar, no importa lo que haga el otro prisionero.

Paradójicamente, cuando cada prisionero actúa de manera egoísta, es decir, como un egoísta, el resultado es que ambos están en peor situación de lo que lo hubieran sido si cada uno hubiera actuado de manera cooperativa.

La medición de las emociones y la interacción con máquinas/robots que exhiben un comportamiento complejo levanta suspicacias y obliga a los desarrolladores a pensar en las implicaciones éticas de los diseños y desarrollos. Los siguientes párrafos muestran los métodos para medir emociones para después poner énfasis en cómo se está utilizando la inteligencia artificial para entender el por qué de la necesidad de incluir el diseño en valores. El objetivo es ver los factores que influyen en el diseño en valores.

3. Interacción emocional con máquinas con Inteligencia Artificial

Desde la disciplina de la inteligencia artificial se ha intentado emular el comportamiento emocional humano. La explicación la encontramos en la aparente necesidad que tenemos los humanos de empatizar en las relaciones con los demás. La comunicación mejora notablemente cuando hay un reconocimiento de emociones, pues nos sentimos reconfortados por el otro. Para ello, es necesario, por una parte ser capaz de caracterizar las emociones desde un punto de vista científico-técnico y por otra parte tener modelos dentro del software para emular el comportamiento emocional. Es el tiempo el que marca diferentes capas en los modelos emocionales: a largo plazo tenemos la personalidad, a medio plazo el estado emocional (mood) y a corto plazo emociones puntuales. Esta estructura es la base de uno de los modelos más antiguos y más usados en la inteligencia artificial, el modelo ALMA (Gebhard, 2005). (Bartneck, 2017) indaga en la relación entre los modelos emocionales y la inteligencia artificial, el modelo OCC es el que marca el estándar, sin embargo también tiene sus limitaciones como explican los autores. Dicho modelo se basa en cuatro fases:

1. Categorización, donde se evalúa un evento, acción u objeto, siendo clasificado

en una categoría emocional

2. Cuantificación, donde se calcula la intensidad de las categorías afectadas

emocionalmente

3. Interacción, clasificación y cuantificación definen el valor emocional de un cierto evento, acción u objeto. Este valor emocional interactúa con las categorías emocionales del carácter.

4. Mapeo, el modelo OCC distingue 22 categorías emocionales. Necesitan ser mapeadas a un número lo más bajo posible de las diferentes expresiones emocionales.

Respecto a las limitaciones del modelo, cabe destacar que existe un desequilibrio entre la madurez de la inteligencia artificial y los modelos de expresión facial y de voz.

Recordemos que solo chatbots han pasado el test de Turing y en contextos limitados.

Actualmente, los avances más significativos se están realizando en los asistentes personales y en los chatbots (Heudin, 2018). En este apartado se van a integrar contenidos que vienen de la psicología con las actuales implementaciones tecnológicas para entender mejor en qué punto se encuentra la inteligencia artificial. El software de los agentes virtuales (también implementado en robots) suele presentar esas tres capas en su arquitectura. Respecto a los modelos de personalidad humana (Mimenza, 2019, Personalidad 2019), encontramos como principales teorías agrupadas en diferentes corrientes:

  • Psicoanalítica/psicodinámica: enfatizan en los motivos inconscientes y en la importancia de las experiencias de la niñez en la formación de la personalidad. Los neo-Freudianos cambiaron y renovaron el modelo original para focalizarse además en los factores sociales y cognitivos:
  • Teoría de la personalidad de Sigmund Freud: El núcleo de dicha teoría está conformado por tres partes en continuo conflicto (Ello, Yo, Superyó), 5 estados psico-sexuales (oral, anal, fálico, latente, genital), los comportamientos agresivos y sexuales se derivan de la personalidad y existen unos mecanismos de defensa que protegen la personalidad de la ansiedad.
  • Teoría de la personalidad de Carl Jung: Es el inconsciente colectivo la fuerza primigenia en el desarrollo de la personalidad. Existen unos arquetipos comunes a través de las culturas.
  • Teoría de Alfred Adler: Los factores que más influyen el desarrollo de la personalidad es el complejo de inferioridad y el orden de nacimiento
  • Teoría de Karen Horney: Las relaciones con los padres y de seguridad son la mayor influencia en la personalidad Teoría de Erik Erikson: Desarrolló una de las teorías más populares influyentes del desarrollo que contiene diferentes etapas: Etapa 1: Confianza frente a desconfianza. Etapa 2 – Autonomía contra vergüenza y duda. Etapa 3 – Iniciativa contra culpa.

La crítica a estas teorías es que no pueden probarse falsas pues no son científicas, se generaliza a partir de casos de estudio a una población entera, el estudio está centrado en gente enferma y en adultos.

Comportamiento/Social-Cognitiva: La personalidad es el resultado de la interacción entre el individuo y el entorno (C)/ La personalidad está moldeada por las condiciones del entorno, factores cognitivos y el comportamiento (S-C)

  • Teoría de B.F. Skinner/El modelo BIS Y BAS de Gray/Teoría de la personalidad de Eysenck: La personalidad surge de la historia del comportamiento de la persona en función del castigo/refuerzo
  • Teoría de Albert Bandura/Teoría del aprendizaje social de Rotter/El enfoque interaccionista: La personalidad surge de ver a los demás, y de la interacción con el ambiente.

Las críticas se centran en que los estudios en animales no siempre son generalizables a seres humanos, se infravaloran los factores biológicos y cognitivos así como los rasgos de personalidad.

Humanística: La personalidad responde al deseo inherente de alcanzar el verdadero potencial de cada uno. Se enfatiza la capacidad para el crecimiento personal, el desarrollo del potencial de cada uno y la libertad de alcanzar el destino.

  • Abraham Maslow: Estudió personalidades de individuos sanos y describió las características de la personalidad para auto-realizarse.
  • Teoría fenomenológica de Carl Rogers: El autoconcepto es la característica más importante de la personalidad. Ser demasiado optimistas, obviar explorar el lado negativo de la naturaleza humana, ser difícil de testear y definir conceptos demasiado vagos y subjetivos son las principales críticas que se realizan a estas teorías
  • Rasgos: La personalidad depende de combinaciones de rasgos básicos: consistencia, comportamientos a largo plazo y sentimientos.
  • Teoría de la personalidad de Raymond Cattell: Existen 16 dimensiones básicas de la personalidad
  • Teoría del Big Five de Costa y McCrae: Todos los rasgos de personalidad depende de 5 factores: La apertura a la experiencia, la conciencia, la extraversión, la amabilidad y el neuroticismo.

Como críticas se encuentra que los factores pueden no ser suficientes (por demasiado o por demasiado poco, la semántica de las palabras puede producir diferentes resultados)

Existen modelos que se utilizan sobre todo en personas con trastornos como el Modelo psicobiológico de Cloninger, modelos centrados en el llamado ‘self’, como la teoría de Gordon Allport. Del constructivismo tenemos la teoría de Constructos Personales de George A. Kelly que otorga un papel activo a los seres humanos en cómo recogen e interpretan el conocimiento. Cuando este conocimiento debe ser traspasado a la programación de una inteligencia artificial habitualmente se piensa en términos de motivaciones humanas, creencias y sentimientos y la modelización de la interacción con seres humanos y objetos inanimados. (Prototypr.io, 2017) desarrolló una guía para desarrollar personalidades de bots. Se considera necesario este paso, sobre todo en bots porque ante los usuarios, el bot aparecerá más relevante y creíble. Los pasos son: conocer la audiencia, tener definido el trabajo del bot y utilizar algún modelo humano o variante como los que se han explicado en los anteriores párrafos. Para trasladar la personalidad a un bot por ejemplo, se deben escoger con cuidado las palabras adecuadas y el tono de voz. El Mood (estado emocional) es el estado en el que se encuentra a medio plazo o en una determinada longitud de tiempo (hoy, esta semana). (Dealh, 2018) aplica la inteligencia artificial para encontrar el estado emocional en una canción. Sin embargo, en este caso se busca influir en el estado emocional de los humanos, induciéndolo a través de la música. (Wiggers, 2018) describe cómo los llamados científicos de datos (data scientists) de la Universidad de Michigan y Google Brain describen una arquitectura de aprendizaje automático que es capaz no solo de generar oraciones a partir de una muestra dada, sino de cambiar el estado de ánimo, la complejidad, el tiempo o incluso la voz del texto original, al tiempo que conserva su significado. Si se aumenta el nivel de detalle en el tiempo, aparece un nuevo concepto, la emoción puntual. Se entiende como modelo para caracterizar las emociones puntuales, como aquel modelo que permite situar el estado emocional en un cierto sistema de referencia. Existen varios modelos para caracterizar las emociones, los más utilizados y conocidos son (Plutchik, 2017) y (Ekman, 1984) en seres humanos. Ekman se aplica en software de reconocimiento facial, aunque ya han aparecido muchos desarrollos en diferentes compañías, existiendo APIs para poder utilizar dichos desarrollos. Algunos smartphones ya lo incluyen como parte de verificación de la identidad. Cuando se trata de posicionar cada emoción en un espacio 3D uno de los más utilizados en inteligencia artificial actualmente es el Pleasure-Arousal-Dominance (PAD), donde Pleasure hace referencia a si un estímulo nos ha gustado, Arousal al grado de intensidad de una emoción y la Dominance al grado del control que tenemos de ella. Así se organiza un espacio 3D donde cada emoción tiene un lugar.

4. Innovación responsable y Desarrollo de Software Basado en Valores

El diseño en la ingeniería se debe apostar por las tecnologías responsables, de forma que toda innovación emane de valores éticos, pasando a ser una innovación responsable. Los factores a considerar son: la diversidad y la inclusión, la apertura y la transparencia, la anticipación y la reflexión, la responsabilidad y el cambio adaptativo. La ética y la innovación responsable permiten el desarrollo de la tecnología siempre y cuando sean bien aplicadas y orientadas al beneficio de una comunidad en general y no de particulares. De forma muy acelerada, los avances tecnológicos y su rapidísima aplicación a todos los aspectos de la vida personal y profesional, y a todos los ámbitos de la esfera pública, muestran a diario efectos secundarios y “daños colaterales” que a menudo tienen enorme trascendencia ética. Hoy más que nunca se plantea la importancia de la innovación responsable para adaptarla a las necesidades y los valores de la sociedad y evitar los recelos de las nuevas tecnologías.

4.1 Value-Sense-Design (VSD)

El diseño de ingeniería del software tradicional adolece de metodologías para incorporar valores éticos. Value Sensitive Design -VSD (Friedman, B. & Hendry, D. G. 2019) es una metodología que pretende solventar ese problema, existen tres capas: valores, normas y el diseño de requisitos. Dicha metodología parte de los valores, a los cuales se les asocia unas normas que a su vez requiere un análisis de requisitos. Complementa el análisis de requisitos en el desarrollo de software. El foco central de enfoque es el análisis de las partes interesadas, directos e indirectos; distinciones entre los valores del diseñador, valores explícitamente respaldados por la tecnología y valores de las partes interesadas; niveles de análisis individual, grupal y social; investigaciones integrales e iterativas conceptuales, técnicas y empíricas; y un compromiso con el progreso. Emplea una metodología integradora, tripartita e iterativa, que consiste en investigaciones conceptuales, empíricas y técnicas. VSD se ocupa principalmente de valores que se centran en el bienestar humano, la dignidad humana, la justicia, el bienestar y los derechos humanos. El foco central de enfoque es el análisis de las partes interesadas, directos e indirectos; distinciones entre los valores del diseñador, valores explícitamente respaldados por la tecnología y valores de las partes interesadas; niveles de análisis individual, grupal y social; investigaciones integrales e iterativas conceptuales, técnicas y empíricas; y un compromiso con el progreso. Emplea una metodología integradora, tripartita e iterativa, que consiste en investigaciones conceptuales, empíricas y técnicas. VSD se ocupa principalmente de valores que se centran en el bienestar humano, la dignidad humana, la justicia, el bienestar y los derechos humanos.

Referencias

Bartneck, C., Lyons, M. J., & Saerbeck, M. (2017). The relationship between emotion models and artificial intelligence. arXiv preprint arXiv:1706.09554.

Deahl, D. (2018, September 23). Deezer researchers developed an AI system that detects a song’s musical mood. Retrieved from https://www.theverge.com/2018/9/23/17888240/deezer-researchers-ai-system-detect-song-musical-mood

Ekman, P. (1984). Expression and the nature of emotion. In K. Scherer & P. Ekman (eds). Approaches to Emotion. Hillsdale, NJ: Erlbaum, pp. 319-344.

Friedman, B. & Hendry, D. G. (2019) Value Sensitive Design: Shaping Technology with Moral Imagination. ISBN: 9780262039536. https://mitpress.mit.edu/books/value-sensitive-design

Gebhard, P. (2005, July). ALMA: a layered model of affect. In Proceedings of the fourth international joint conference on Autonomous agents and multiagent systems (pp.29-36). ACM.

Gutierrez, A., & Gutierrez, A. (n.d.). 3 EL CODIGO HAMURABI. Retrieved May 8, 2019, from https://www.academia.edu/8339302/3_EL_CODIGO_HAMURABI.

Heudin, J. C. (2018). An Emotional Multi-personality Architecture for Intelligent Conversational Agents. In Transactions on Computational Collective Intelligence XXVIII (pp. 143-163). Springer, Cham.

Hume, D. (1896). A treatise of human nature: Hume, David, 1711-1776: Free Download, Borrow, and Streaming. (1896, January 01). Retrieved from https://archive.org/details/treatiseofhumann01humeuoft/page/n6

Kuhn, T. S. (2012). The structure of scientific revolutions. University of Chicago press

McTaggart, J. (1909). International Journal of Ethics, 20(1), 94-99. Retrieved from http://www.jstor.org/stable/2376980 .

Mimenza, O. C., Barcelona, Psicología Clínica por la Universidad de Barcelona. Educación Secundaria, & Psicología General Sanitaria. (2019, May 08). Las principales teorías de la personalidad. Retrieved from https://psicologiaymente.com/personalidad/teorias-personalidad

Myers, D. G. (2007). Psicología. Editorial Médica Panamericana.

Paley (2002). Online Library of Liberty. (n.d.). Retrieved from https://oll.libertyfund.org/pages/paley-s-moral-philosophy . Introduction to Paley’s The Principles of Moral and Political Philosophy, (Indianapolis: Liberty Fund, 2002).

Personalidad. (n.d.). Retrieved from https://www.psicologia-online.com/personalidad/

Prototypr.io 10207008385662065. (2017, May 30). A guide to developing bot personalities. Retrieved from https://blog.prototypr.io/a-guide-to-developing-bot-personalities-c6eba213d77b

Plutchik’s Wheel of Emotions – 2017 Update • Six Seconds. (2018, July 02). Retrieved from https://www.6seconds.org/2017/04/27/plutchiks-model-of-emotions/

Rosen, F., ed. (2007). Jeremy Bentham. Aldershot: Ashgate. ISBN 978-0-7546-2566-7.

Singer, P. (2019, March 29). Ethics. Retrieved from https://www.britannica.com/topic/ethics-philosophy .

The IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems. Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems, Version 2. IEEE, 2017. http://standards.ieee.org/develop/indconn/ec/autonomous_ systems.html.

Wiggers, K. (2018, December 10). Google’s AI can change the mood, voice, tense, and sentiment of sentences. Retrieved from https://venturebeat.com/2018/12/05/googles-ai-can-change-the-mood-voice-tense-and-sentiment-of-sentences/