Simulation des raisonnements éthiques par logiques non-monotones

  • Published on
    19-Oct-2014

  • View
    119

  • Download
    2

DESCRIPTION

Slides de la prsentation donne la RJCIA 2014.

Transcript

Logiques non monotones pour le raisonnement thiqueSimulation desraisonnements thiquespar logiques non-monotonesStephen Larroque LRQ3000@gmail.comSynthse des formalismes et architecturesde raisonnements thiques computationnels30 Juin 2014RJCIA 2014Quest-ce que lthique ? Plusieurs acceptions diffrentes Point daccord: cest une facult essentielle la dcision humaine Notre dfinition: but de lthique = favoriser bonnes actions et prvenir les mauvaises selon un ou des critres dfinir. Convention: morale et thique aucune diffrence (comme leurs tymologies)4Pourquoi modliser lthique? Analyse des systmes thiques (philosophie, droit) Rsoudre dilemmes = autonomie dans choix conflictuels Bienveillance et confidentialit assure Ncessaire la dcision autonome5Quelles applications? Militaire: drones embarqus, aide la dcision Systmes grant des donnes prives (systmes mdicaux, rseaux sociaux, Big Data) Systmes autonomes, surtout si sociable Judiciaire et lgislatif Ethical blindness6Robot menteur?Est-ce quun robot devrait pouvoir mentir?7Comment modliser une thique? Modle du monde (atomes, prdicats) Systme thique, compos de rgles thiques (ce qui est juste/injuste) Sens commun= causalit8Logique dontique et dilemme10Q : on nous pose une questionL : mentirM : John meurtModle mondeLogique dontique et dilemme11Q : on nous pose une questionL : mentirM : John meurtOB(Q -> ~L)OB(~M)OB(~L -> M)On ne doit pas mentirOn ne veut pas que John meureSi on ne ment pas, John meurtModle mondeSystme thiqueCausalit{Logique dontique et dilemmeFreddie, qui veut tuer John, nous demande o il est. Que rpondre?12Q : on nous pose une questionL : mentirM : John meurtOB(Q -> ~L)OB(~M)OB(~L -> M)On ne doit pas mentirOn ne veut pas que John meureSi on ne ment pas, John meurtModle mondeSystme thiqueCausalit{Logique dontique et dilemmeFreddie, qui veut tuer John, nous demande o il est. Que rpondre?13Q : on nous pose une questionL : mentirM : John meurtOB(Q -> ~L)OB(~M)OB(~L -> M)Q.On ne doit pas mentirOn ne veut pas que John meureSi on ne ment pas, John meurtModle mondeSystme thiqueCausalit{Logique dontique et dilemmeFreddie, qui veut tuer John, nous demande o il est. Que rpondre?14Q : on nous pose une questionL : mentirM : John meurtOB(Q -> ~L)OB(~M)OB(~L -> M)Q.OB(~L)On ne doit pas mentirOn ne veut pas que John meureSi on ne ment pas, John meurtModle mondeSystme thiqueCausalit{Logique dontique et dilemmeFreddie, qui veut tuer John, nous demande o il est. Que rpondre?15Q : on nous pose une questionL : mentirM : John meurtOB(Q -> ~L)OB(~M)OB(~L -> M)Q.OB(~L)OB(M) => Contradiction!On ne doit pas mentirOn ne veut pas que John meureSi on ne ment pas, John meurtModle mondeSystme thiqueCausalit{Logiques non monotones Consquences non monotones:ajout daxiomes peut rduire lensemble des consquences Proprits typiques: Dfauts (dduction si pas de preuve du contraire) Abduction (dduction du plus vraisemblable par limination) Auto-pistmie (sait ce quon ne sait pas) Rvisabilit (nouvelles connaissances peuvent rtracter danciennes) Prospectivit (explorer consquences en avant)16Answer Set Programming Logique non-monotone, rsout NP-hard, univers de Herbrand Answer set (solution) = sous-ensembles minimaux satisfaisant toutes les rgles ~: ngation classique (explicite) (monde ouvert) not: ngation par chec (monde clos) Proprits: prospectivit, rvisabilit, dfauts, auto-pistmie (simpliste via ng. par chec), abduction (extension) 17AnsProlog* et dilemme Solutions: AS1: {q, l} AS2: {q, ~l, m}18q :- -l.-l :- m.q.{m}. Rgle de choixASP thique thiques consquentialistes altruisme, goisme, utilitarisme, ...prdicats: just, unjust, good, bad, worse...19(Ganascia 2007)ASP thique thiques consquentialistes altruisme, goisme, utilitarisme, ...prdicats: just, unjust, good, bad, worse...20(Ganascia 2007)worse(murder, lie)ASP thique thiques consquentialistes altruisme, goisme, utilitarisme, ...prdicats: just, unjust, good, bad, worse... Mta-thique Kantienne universalismeprdicats: maxim, bind, possible_society21(Ganascia 2007)worse(murder, lie)ASP thique thiques consquentialistes altruisme, goisme, utilitarisme, ...prdicats: just, unjust, good, bad, worse... Mta-thique Kantienne universalismeprdicats: maxim, bind, possible_society22(Ganascia 2007)worse(murder, lie)possible_society trust(P). not possible_society.ASP thique thiques consquentialistes altruisme, goisme, utilitarisme, ...prdicats: just, unjust, good, bad, worse... Mta-thique Kantienne universalismeprdicats: maxim, bind, possible_society Thorie des Principes de Constant23(Ganascia 2007)worse(murder, lie)possible_society trust(P). not possible_society.ASP thique thiques consquentialistes altruisme, goisme, utilitarisme, ...prdicats: just, unjust, good, bad, worse... Mta-thique Kantienne universalismeprdicats: maxim, bind, possible_society Thorie des Principes de Constant24(Ganascia 2007)worse(murder, lie)possible_society trust(P). not possible_society.Substrat thique stratifi25(Bringsjord 2013) Analogue la thorie du raisonnement dualAutres approches Logique prospective (Pereira 2007) et Normative BDI (Tufis 2012) Raisonnement analogico-dductif(Bringsjord 2012) Defeasible deontic logic(McCarty 1994),Paraconsistent deontic logic(Costa 1986), ANNEC (Artificial Neural Networkfor ethical classification)(Honarvar 2009) Logique des commandements divins (Bringsjord 2012)26Conclusion et ouverture Robuste rsolution des dilemmes thiques(logiques non-monotones, substrat thique) Modlise (toutes?) les variations de raisonnements thiques Nombreuses applications: de lanalyse la conception de systmes thiques autonomes Mais insuffisant, concepteur fournit plusieurs biais: Volont? Intentions? (systme thique) Agents Normatifs BDI, philosophie de laction, logique de laction, etc. Causalit et sens commun? (rgles de causalit) Thorie de la connaissance (logique auto-pistmique?) nactivit, ontologies 27 Ethical System Formalization using Non-Monotonic Logics, J.-G. Ganascia, 2007, Proc. of the Cognitive Science conference (CogSci2007) Ethical Regulation of robots is Not Optional, S. Bringsjord and N. S. Govindarajulu, 2013 Modelling morality with prospective logic, L. M. Pereira and A. Saptawijaya, 2007, in Progress in Artificial Intelligence Nonmonotonic foundations for deontic logic, J. F. Horty, 1997, in Defeasible deontic logic Psychometric Artificial General Intelligence: The Piaget-MacGuyver Room, S. Bringsjord and J. Licato, 2012, in Theoretical Foundations of Artificial General Intelligence Using non-monotonic logics to model machine ethics, J.-G. Ganascia, 2007, Proc. of the international Computer Ethics Conference (CEPE 2007) An artificial neural network approach for creating an ethical artificial agent, A.R. Honarvar and N. Ghasem-Aghaee, 2009, IEEE International Symposium on Computational Intelligence in Robotics and Automation (CIRA) Introducing Divine-Command Robot Ethics, chapter in Robot Ethics: The Ethical and Social Implications of Robotics, S. Bringsjord and J. Taylor, 2012Rfrences (partielles) slideshare.net/LRQ3000Merci! slideshare.net/LRQ3000Slides BonusLogique des dfautsComment dfinir D en pratique?=> Remplacer D(x,y) par M(x)?35Q(x) : x nous pose une questionL(x) : mentir xM(x) : x meurtD(x,y): x est un danger pour yQ(x): ~D(x, John) ~L(x)(Reiter 1980; Horty 1997)Logique des dfautsToujours vrai car John nest pas mort au moment de la question.Pas de prospection ni de rvisabilit!36Q(x) : x nous pose une questionL(x) : mentir xM(x) : x meurtD(x,y): x est un danger pour yQ(x): M(John) ~L(x)AnsProlog* et dilemme37csq(A, S, A)

Recommended

View more >