A QUELLES CONDITIONS UNE DECISION
juridictionnelle, administrative ou privée,
PEUT-ELLE ETRE
totalement ou partiellement
AUTOMATISEE ?

par Lucien MEHL
Conseiller d'Etat honoraire
( France )

-----------------------

SOMMAIRE

INTRODUCTION

PREMIERE PARTIE: SUR LE CONCEPT DE DECISION
I- Délimitation du champ de l'analyse
II- De la structure ternaire de la décision

DEUXIEME PARTIE: DES ACTES ENTIEREMENT CALCULABLES
I- La notion de pseudo-décision
II- Les limites du calculable: de l'aléatoire et de l'incertain

TROISIEME PARTIE: LES ACTES NON CALCULABLES OU NON ENTIEREMENT CALCULABLES
I- Les véritables décisions ou décisions-choix
II- Le calculable et l'incertain dans la décision-choix

CONCLUSION

INTRODUCTION

Les processus automatisés se sont développés et perfectionnés, surtout avec les progrès de l'informatique (des ordinateurs et des logiciels), dans le domaine de la gestion.

Celle-ci est considérée, dans cet exposé, en son sens le plus large. L'on pourrait retenir aussi, les notions d'administration, voire de management (sans qu'il soit nécessaire, eu égard à l'objectif de cette communication, d'évoquer les différences de sens entre administration, gestion et management). Plus généralement encore, on peut constater les progrès des applications de l'informatique à la conduite des affaires privées et publiques, qu'il s'agisse des entreprises, des administrations de l'Etat et des autres collectivités publiques, des juridictions, ou que l'on considère même ce qui se rapporte aux options politiques au plus haut niveau.

La mise en oeuvre de ces applications de l'informatique peut être compliquée et laborieuse. Mais pour nombre d'entre elles, l'expertise dans l'art d'administrer et la maîtrise de la technique permettent d'aboutir.

Il en va autrement quand il s'agit d'automatiser, non plus des opérations administratives, mais des décisions, surtout si l'automatisation n'est plus limitée à la préparation de la décision et que l'on entend que la prise de décision elle-même soit automatisée (à supposer qu'on puisse encore employer le terme de décision dans ce cas), ou, tout au moins, si l'on fait en sorte que l'issue soit suggérée par la machine, fût-ce avec des variantes. Si nous nous assignons des objectifs de cette nature, nous constatons que le projet d'automatisation de la décision fait surgir des interrogations d'un type nouveau, suscite des difficultés spécifiques.

Les unes et les autres peuvent être de caractère technique. Mais ce ne sont pas les plus importantes. Elles peuvent aussi et surtout être de nature juridique, éthique ou politique, de sorte que l'automatisation peut se heurter à des interdits.

Il apparaît alors que pour tenter de répondre à la question posée dans l'intitulé de cet exposé, il faut se demander d'abord ce qu'on entend par décision, vocable d'usage courant, mais dont la portée est loin d'être évidente. Tel sera l'objet de la première partie de cette communication.

Il convient d'examiner ensuite, dans la seconde partie , quelles sont , au regard de la logique de la décision, ainsi que du point de vue technique, les types de décision qui peuvent, légitimement, être réputées automatisables.

Dans la troisième partie, il y aura lieu de rechercher s'il existe et, dans l'affirmative, pourquoi il existe des décisions, d'une certaine nature, qui sont non calculables. Est-ce parce que leur automatisation est techniquement impossible ou tout au moins présomptueuse, réductrice donc suspecte ? Ou l'interdit

s'étend-il , ou doit-il être étendu, aux décisions qui sont authentiquement automatisables, mais dont la portée est telle qu'il faut cependant exiger, au moins en fin de processus, l'intervention d'un décideur humain, individuel ou collectif ?

Telles sont les questions qui sont proposées à vos réflexions, avec l'espoir qu'il sera possible d'aboutir à une conclusion. Celle-ci, bien sûr, ne sera que provisoire, en raison des développements à venir de la méthodologie de la décision, du progrès technique et de l'évolution socio-politique.

PREMIERE PARTIE

SUR LE CONCEPT DE DECISION

I - DELIMITATION DU CHAMP DE L'ANALYSE.

Le concept de décision sera considéré sur un plan général, ainsi qu'il ressort de l'intitulé de cette communication : il s'agit de la décision juridictionnelle, administrative ou privée. Cependant, cet intitulé, inspiré par l'article 2 de la loi française "Informatique et libertés" du 6 Janvier 1978, appelle quelques précisions.

Les catégories de décisions qu'il y a lieu d'envisager sont celles qui incombent aux autorités politiques ou administratives, aux juridictions, aux entreprises et plus généralement à tout organisme ou institution public ou privé.

C'est dire que demeurent en dehors de notre sujet, sauf nécessaire allusion, les décisions prises par une personne physique (voire par un groupe de personnes physiques), dans le cadre de la conduite de ses affaires privées =_ (ce qui n'englobe pas les décisions de l'entreprise, fussent-elles individuelles, lesquelles, ainsi qu'il vient d'être indiqué, concernent bien notre sujet ).

En écartant les décisions qui se rapportent à la conduite des affaires privées, on n'entend pas soutenir pour autant que de telles décisions sont en dehors des possibilités d'automatisation. Mais, d'une part , dans les situations de cette nature, l'automatisation , qui certes n'est pas complètement exclue à priori, (par exemple dans les relations d'un particulier avec sa banque, son notaire ou des commerçants) est souvent relative à des opérations non intégrées dans un processus informatique élaboré par ce particulier. D'autre part et surtout, il s'agit d'opérations pour lesquelles la personne considérée est en principe libre, quant aux conditions dans lesquelles elles prépare sa décision.

Certes, dans nombre de cas, les décisions dont il s'agit peuvent être soumises à des règles juridiques et comporter des effets juridiques à l'égard d'autrui. Tel est notamment ce qu'on peut observer dans la vie privée pour divers actes unilatéraux et plus encore pour les contrats (qui correspondent à des décisions prises par chacun des cocontractants). Mais les processus d'élaboration des décisions de cette nature ne sont pas soumis à des contraintes juridiques ou éthiques (la capacité ou le consentement ne font pas partie du processus d'élaboration de la décision et , de toute façon, échappent par leur nature, à l'automatisation, tout au moins entre personnes privées non commerçantes).

Tout autre est la situation quand il s'agit de décisions politiques, administratives, juridictionnelles, ou incombant à l'entreprise (voire en matière contractuelle). Nombre de processus d'élaboration des décisions sont alors

soumis à des règles juridiques, souvent très strictes, en particulier quand il s'agit de décisions juridictionnelles,ou administratives (procédure administrative non contentieuse) et parfois même de décisions élaborées et prises dans l'entreprise.

Il y a lieu de souligner enfin que les décisions à considérer ne sont pas nécessairement écrites. Certes, les décisions orales dans les institutions ou organismes publics ou privés sont rares. Mais elles peuvent être valables et avoir été précédées d'une préparation automatisée. C'est dire qu'elles entrent dans notre sujet

II - DE LA STRUCTURE TERNAIRE DE LA DECISION

Le moment est maintenant venu de tenter d'exposer ce qu'il convient d'entendre par décision.

Certes le mot fait partie du langage couranr et son sens est intuitivement connu. Prendre une décision, dans une situation donnée, qui requiert qu'un résultat soit obtenu, qu'une issue soit trouvée ou, au moins, qu'une voie soit suivie, c'est se déterminer pour aboutir à la fin recherchée.

La décision, souvent précédée d'un préparation, au cours de laquelle l'information nécessaire est recherchée, traitée puis confrontée avec les objectifs et les contraintes, et d'une délibération qui consiste à peser les différentes issues envisageables, clôt une étape dans la conduite de l'action. Celle-ci n'est pas nécessairement d'ordre matériel; elle peut être purement informationnelle.

Cette notion de clôture d'une étape (éventuellement unique) apparaît dans l'étymologie de la décision , si l'on considère certaines langues (allemand: Entschluss; néerlandais: beslissing). Le mot français ou anglais se rattache à l'idée de couper (latin: caedere) ainsi que le russe: réchenié (rézat', couper). Une manière de décider, c'est en effet, fût-ce après délibération, de "trancher le noeud gordien". D'une manière moins incisive, c'est le cas de le dire, la décision suggère l'idée qu'un choix est exercé. Mais on verra - et c'est là un point essentiel - que ce n'est pas toujours le cas. C'est cette question de l'existence d'une option qui permet de caractériser la "vraie" décision. Que dire alors lorsque tout est déterminé? La réponse est que, dans cette hypothèse, il n'y a pas en réalité de décision, bien que l'acte considéré soit pourtant , souvent, ainsi dénommé.

Il est en revanche fréquent que la personne ou l'organisme qui doit se déterminer se trouve dans une situation complexe ou, tout au moins, qui ne relève pas seulement d'un pur calcul ou n'appelle pas seulement l'expression d'un préférence immédiate.

C'est pourquoi il convient d'analyser, d'un point de vue général, le concept de décision et de décrire sa structure profonde qui est assez rarement immédiatement apparente.

En schématisant, sans excès de réductionnisme, l'on peut proposer une structure ternaire de la décision qui a une portée descriptive et explicative, notamment au regard de ce qui se rapporte à l'automatisation.

Dans cette structure ternaire, on peut distinguer, fondamentalement, trois parties: le calculable, l'incertain, l'axiologique; remarque étant faite qu'en pratique, l'une, voire deux de ces parties, peuvent revêtir au regard du processus de préparation et de prise de la décision , une importance secondaire ou même être inexistante. L'importance ou l'existence des trois éléments varie suivant la nature de décisions considérées ou des actes désignés comme tels.

Qu'entend-on par partie (zone ou secteur) calculable de la décison?

L'épithète "calculable" est prise ici dans un sens large. Il s'agit non seulement de ce qui est mathématiquement calculable, mais aussi, de ce qui relève de la démarche logico-déductive, laquelle est une forme de calcul. A l'expression " partie calculable" on peut préférer celle de ""zone du déterminé", mais ces expressions doivent être tenues pour synonymes. Il y aura lieu certes de s'interroger sur les extensions et les limites du calculable, notamment dans les situations, assez fréquentes, présentant des aléas, où peuvent être mises en oeuvre les diverses applications de la théorie des probabilités. C'est ce qui sera examiné dans la deuxième partie qui concerne les actes entièrement calculables ou pseudo-décisions.

Il faut évoquer maintenant une autre partie de la décision qui est la zone de l'incertain. Celui-ci, par hypothèse, n'est pas calculable ou du moins ne l'est que très partiellement. S'il arrive, en effet, que des méthodes probabilistes conduisent à une quasi-certitude, cette situation favorable est assez exceptionnelle. Pourtant, il faut décider, et donc prendre des risques, à certains égards calculés, mais où le calcul laisse subsister des plages d'ombre. Dans ce cas, pour le décideur, individuel ou collectif, la décision comporte un élément de pari, au sens non futile de ce mot.

Reste à examiner ce qui se rapporte à l'axiologique. On n'entend par là ce qui a trait aux valeurs au sens philosophique du mot. Non pas qu'il y ait lieu de dédaigner, dans la théorie de la décision, la valeur, au sens économique du terme, bien au contraire. Mais la valeur, au sens strict que revêt ce mot en science économique, fait partie du calculable (qui inclut l'aléatoire) même s'il arrive que des situations incertaines rendent , parfois et peut-être souvent, particulièrement fragile le calcul des valeurs économiques.

Une valeur, au sens philiosophique, peut se définir comme une situation socio- économique ou éthico- politique qu'il convient de préserver si elle existe, de rétablir si elle est méconnue, de tendre vers elle, si elle n'est pas encore atteinte. Ainsi, dans un société donnée, les valeurs sont dans des proportions variables pour chacune d'elles des états, des contraintes ou des objectifs.

Les valeurs socio-économiques ou éthico-politiques impliquées dans une décision ne sont pas calculables ou tout au moins ne le sont que partiellement et exceptionnellement. D'où la nécessité d'une intervention humaine. Les notions de valeur et de système de valeurs seront explicitées lorsqu'on abordera, dans la troisième partie, ce qui concerne les actes non calculables (ou non entièrement calculables), c'est-à-dire les véritables décisions. Mais il faut considérer d'abord les actes entièrement calculables ou pseudo-décisions.

DEUXIEME PARTIE

DES ACTES ENTIEREMENT CALCULABLES

OU PSEUDO- DECISIONS

C'est en se référant aux considérations qui précèdent sur la structure des décisions qu'on peut opérer, dans l'ensemble de celles-ci, un distinction fondamentale, au regard de la possibilité et de la licéité de l'automatisation, entre les décisions-choix d'une part et les pseudo-décisions d'autre part, pour lesquelles l'auteur de l'acte ne dispose d'aucune latitude, d'aucune marge d'appréciation. L'absence d'une telle marge implique que l'acte est entièrement calculable. Mais il y aura lieu de s'interroger sur les limites du calculable.

I- LA NOTION DE PSEUDO -DECISION

L'expression de "pseudo-décision" , proposée faute de mieux, ne comporte aucune connotation péjorative (en dépit de l'étymologie grecque: pseudo mai, mentir). Pseudo-décision n'est pas plus péjoratif que pseudonyme.

Ainsi, à l'intérieur de l'ensemble des décisions , est proposée une dichotomie entre, d'une part, les décisions-choix (ou décisions stricto sensu), qui sont de "véritables" décisions, et les pseudo-décisions, qui peuvent avoir l'apparence d'une décision, mais dont l'auteur n'est qu'un exécutant, non nécessairement de rang subalterne, mais qui n'est pas, en réalité, un décideur.

On peut avancer, en se fondant sur la structure ternaire de la décision, que la pseudo-décision est l'acte qui résulte d'un calcul au sens large, mais précis, de ce dernier vocable; c'est-à-dire que ledit acte procède d'un raisonnement purement logico-déductif, accompagné éventuellement d'opérations mathématiques et conduisant à un résultat univoque. La pseudo-décision est telle que deux ou plusieurs personnes qualifiées,opérant séparément et appliquant les règles prescrites, aboutissent à la même issue.

Dans la définition qui précède le mot "acte" est le produit d'opérations de l'esprit, se situant par conséquent dans le domaine de l'information, exclusif donc , en principe, de tout changement matériel. L'acte dont il s'agit peut-être, mais non nécessairement , "instrumentum juris" , (mais il n'est pas "actum juris").

C'est en raison des caractéristiques sus-exposées que la pseudo-décision peut être entièrement automatisée. Elle n'est alors qu'à titre secondaire une opération de l'esprit : c'est l'ordinateur qui fait l'essentiel, voire la totalité du calcul logique et arithmétique.

Il apparaît ainsi que la pseudo-décision est calculable en fait, comme en droit; en fait, parce que le calcul arithmétique et logique est, par définition, mécanisable, (et peut être en pratique mécanisé si l'état de la technique le permet , ce qui est le cas de nos jours); en droit, parce que l'auteur de la pseudo-décision a, en tout état de cause, compétence liée. Que son acte soit issu de ses propres opérations mentales ou du fonctionnement de l'ordinateur dûment programmé, le résultat sera le même. L'automatisation, supposée convenablement conçue et conduite, ne peut nuire à celui qui fait l'objet de la décision, lequel est d'ailleurs en droit de la contester, s'il s'y croit fondé, conformément aux règles contentieuses définies en la matière.

S'il peut exister des pseudo-décisions correctes en fait et valables en droit, c'est qu'elles procèdent de règles non équivoques, préétablies à un niveau hiérarchique supérieur. Ces règles résultent, en général de "véritables" décisions, de décisions-choix qui sont le fondement légitime des actes dits pseudo-décisions, pris pour leur exécution.

II - LES LIMITES DU CALCULABLE

L'on a supposé jusqu'ici que le calcul logique et arithmétique ne présentait aucune difficulté particulière, à supposer même qu'il comporte un très grand nombre de données fixes ou variables et qu'il soit par suite très compliqué. En effet la machine dûment programmé est apte à maîtriser la complication, notion qu'il faut distinguer de la complexité qui n'est pas , en principe, entièrement maîtrisable par une machine, puisque la situation complexe peut être définie comme celle qui ne peut être décrite analytiquement.

Mais le calculable a évidemment des limites.

D'une part l'on est souvent en présence de situations dont la description relève de modèles probabilistes. Dans certaines de ces situations, il se peut que malgré les aléas, la décision soit entièrement calculable, c'est-a-dire que l'issue du calcul apparaît comme comportant un niveau élevé de certitude. Tel est le cas quand s'applique la loi des grands nombres ou encore lorsque l'application de la théorie de jeux conduit à des conclusions voisines de la certitude, ce à quoi peut conduire aussi parfois la logique floue. Mais il arrive aussi que l'informatisation soit insuffisante et la prévision peu sûre, voire impossible.

Il faut alors décider dans l'incertain. La décision dans l'incertain est une véritable décision, puisque le décideur doit exercer un choix. Il ne s'agit pas nécessairement d'un choix axiologique, bien qu'il y ait souvent des liens entre l'axiologique et l'incertain. Cependant la décision dans l'incertain ne procède pas fondamentalement d'une préférence. Elle est caractérisée par le fait que le décideur individuel ou collectif assume un risque, qu'il parie sur l'issue d'une situation espérée. En pratique, il s'agit rarement de paris à l'état pur, c'est-à-dire de cas où le décideur ne dispose d'aucun moyen d' information, d'aucune possibilité de prévision des événements, de la conduite à attendre de l'adversaire ou du concurrent. S'il existe quelques éléments d'information, par exemple, la théorie des jeux peut être de quelque secours. Ce sera encore un calcul, certes partiel, alors que le calcul jouera un rôle mineur, sinon inexistant, avec l'axiologique.

TROISIEME PARTIE

LES ACTES NON CALCULABLES

OU NON ENTIEREMENT CALCULABLES

Dans cette troisième partie seront considérées les véritables décisions ou décisions-choix. Il faudra s'interroger aussi sur la présence du calculable et de l'incertain dans la décision-choix.

I- LES VERITABLES DECISIONS OU DECISIONS - CHOIX

On a vu que ce qui caractérise la décision-choix, c'est la présence dans cette décision d'une partie axiologique dont il faut élucider et peser les éléments, à savoir les valeurs.

La notion de valeur a été définie ci-dessus et une distinction a été proposée: valeurs socio-économiques et valeurs ethico-politique

On peut avancer que les valeurs, même lorsqu'elles ne sont pas explicitées ni définies, constituent un système (au sens général, mais aussi au sens de la science des systèmes ou systémique).

Dans un système de valeurs, celles-ci sont, par hypothèse, compatibles. Il est notamment possible que deux valeurs se renforcent mutuellement, par exemple, la dignité (respect de la dignité de l'être humain) et la liberté (individuelle ou d'un groupe ou d'une nation). Mais il se peut aussi que des valeurs, bien que compatibles s'avèrent concurrentes à un niveau donné. Tel est le cas si l'on considère, d'une part, la sécurité (individuelle ou collective) et la liberté. La sécurité à un niveau élevé est nécessairement réductrice de la liberté, mais cette réduction peut être tenue pour acceptable, au moins jusqu'à un certain point.

Dans ce bref exposé, l'on ne saurait exposer les différents systèmes de valeurs concevables ou existants. Ce ne serait d'ailleurs pas utile, car ce qui est en cause, c'est la non-calculabilité de l'axiologique, notamment dans le cadre de l'informatisation de la décision. Il n'y a donc pas lieu de décrire le ou les systèmes axiologiques, même en se limitant à nos sociétés occidentales.

Toutefois , afin d'éviter un excès d'abstraction et pour mieux mettre en évidence la non -calculabilité de l'axiologique, il est peut-être opportun de présenter une esquisse d'un système de valeurs qui pourrait être tenu pour représentatif de ce qui est perçu ou souhaité comme tel en Occident.

On n'abordera pas ce qui, au regard des valeurs, concerne principalement l'être humain à titre personnel, à savoir l'amitié, l'amour, l'inclination pour l'art, la foi religieuse, les préoccupations métaphysiques (énumération non limitative). En effet, nous ne considérons pas les propensions individuelles et les comportements qui en découlent, puisque notre propos est de nous interroger sur la possibilité d'informatisation des décisions préparées et prises par des institutions ou organismes publics ou privés.

C'est dire que nous n'avons à nous attacher qu'aux valeurs que la société doit respecter ou promouvoir.

Il convient, maintenant, de préciser ce qu'on entend par valeurs socio-économiques, et par valeurs éthico-politiques. Les premières qui comprennent la sécurité, le bien-être, le savoir sont génératrices d'un coût, d'où leur dénomination de valeurs socio-économiques. Les secondes, la dignité, la liberté, la justice ont une portée essentiellement morale, sont d'un coût négligeable et doivent être garanties par le pouvoir, d'où leur appellation de valeurs éthico-politiques.

L'énumération de ces valeurs mérite une brève explication. Par sécurité, on entend la sécurité individuelle et collective. Elle comprend notamment la sécurité sociale qui est une sécurité individuelle, assurée par la société. Le bien-être comprend ce qui se rapporte au niveau de vie et aussi à la santé physique et mentale . Le savoir comprend l'éducation générale et les connaissances professionnelles.

La dignité est tout ce qui se rapporte au respect de la personne humaine. La valeur liberté est la liberté-autonomie (qu'on peut opposer à la liberté-entropie, génératrice de désordre). Enfin par justice, on entend la vertu de justice (Gerichtigkeit), qui se manifeste non seulement sous ses aspects traditionnels (neminem laedere, suum cuique tribuere) mais aussi suivant "les principes nécessaires à notre temps", notamment la solidarité.

La prise en considération de ces valeurs, non seulement éthico-politiques, mais aussi socio-économiques ne relève pas, du moins pour l'essentiel, d'un calcul (logico-déductif et a fortiori numérique). Elle procède d'une appréciation faite par un être humain ou un groupe d'être humains, dûment habilités par leur statut à prendre certaines catégories de décisions. L e décideur peut être un juge, un tribunal, le responsable qualifié d'une entreprise ou d'une administration, une assemblée locale, un parlement (énumération seulement énontiative).

Cependant, la non-calculabilité des décisions impliquant des valeurs appelle une triple observation.

Non-calcul ne veut pas dire irrationnel. Il y a une rationalité de l'axiologique qui peut être en partie soutenue par le calcul mathématique, par exemple quand il s'agit de valeurs socio-économiques. Le raisonnement logico-déductif peut intervenir dans le domaine des valeurs éthico-politiques, sans que soit perdu de vue que "le coeur a ses raisons que la raison ne connait pas" (Pascal).

L'on doit souligner aussi que beaucoup de décisions, fussent-elles à dominante axiologique, peuvent comporter une partie authentiquement calculable, mathématique, ou logico-déductive.

Enfin la non -calculabilité n'exclut pas que le décideur soit à même dans certaines situations de définir les termes de l'échange entre les valeurs considérées à des niveaux donnés. Des tables de valeurs peuvent alors être introduites dans un logiciel et aider à la prise de décisions de rang subordonné. Mais le risque d'une telle procédure est élevé. Certes, dans toute appréciation axiologique, il y a nécessairement de l'arbitraire (dans le sens neutre, non péjoratif du mot). Mais l'édiction de tables de valeurs, qui constitue une décision, accroît le risque de décisions subordonnées erronées ou injustes; d'ailleurs, ces décisions subordonnées méritent-elles encore le nom de décison?

Il est vrai qu'il y a des possibilités d'échapper aux dangers qui peuvent découler d'une telle procédure. Il suffit de considérer que l'issue du calcul n'est pas une décision, qu'il s'agit d'une suggestion, d'une proposition à soumettre à un décideur humain qui, dans le cadre de ses attributions, exercera son pouvoir d'appréciation. En outre, il y a lieu d'exclure, par principe, une telle procédure, en certains domaines sensibles, notamment en droit pénal, quand il s'agit de juger des crimes ainsi que des délits majeurs

.

CONCLUSION

Les considérations qui précèdent permettent de répondre à la question posée par l'intitulé de cette communication.

Quand il s'agit d'actes entièrement calculables, il n'y a aucun obstacle, de fait ni de droit, à leur informatisation, ces actes fussent-ils qualifiés de décisions, dans la pratique administrative, encore qu'il s'agisse de "pseudo-décisions".

On a vu que les auteurs de ces actes ont, par hypothèse, compétence liée. Peu importe alors que l'élaboration de la pseudo-décision émane d'un homme ou d'une machine. La personne qui fait l'objet de cet acte ne peut être lésée du fait de l'automatisation. Si elle estime que l'acte en question est contestable, elle peut former un recours devant la juridiction compétente, éventuellement précédé d'un recours gracieux ou hiérarchique. Quelle que soit la nature du recours, il doit aboutir à une réponse motivée de l'autorité ou de la juridiction concernée où seront exposés, au moins sommairement, dans les limites de la contestation, les données mises en oeuvre et expliqués les raisonnements et les calculs qui ont conduit à l'acte attaqué. C'est ce qui est explicitement prévu à l'article 3 de la loi française, relative à l'informatique, aux fichiers et aux libertés du 6 Janvier 1978. Mais, même en l'absence de texte exprès sur ce point, il semble que, dans un Etat de droit, toute personne concernée peut manifester une telle exigence d'information et d'explication devant le juge compétent, dans le cadre de sa contestation de la légalité ou du bien fondé de l'acte attaqué. Le juge (ou l'autorité préalablement saisie) peut notamment constater des erreurs dans les informations traitées, dans les modes de raisonnement et calculs traduits en instructions dans le logiciel de traitement ou, ce qui peut arriver aussi, un défaut de fonctionnement de l'ordinateur, même convenablement programmé.

Quand il s'agit d'actes non calculables ou non entièrement calculables, c'est-à-dire de véritables décisions, la problématique est plus complexe.

Si les actes en question sont non calculables en fait, eu égard à l'état de la science et de la technique, ces actes ne peuvent être, en droit, automatisés. Ici l'interdit s'impose, de toute évidence, puisqu'on ne peut légalement substituer au décideur humain une machine qui, par hypothèse, ne peut être correctement programmée. Un automatisation conçue et pratiquée dans ces conditions conduit à des décisions qui sont, ipso facto, entachées d'illégalité. Certes le décideur peut se faire aider par la machine. Mais s'il n'intervient pas, au moins à la fin du processus automatisé, non seulement pour procéder à une reflexion critique sur les résultats de celui-ci, mais aussi pour exercer les choix qui lui incombent, il méconnait sa compétence et par suite sa décision est illégale.

Il faut cependant examiner le cas où une décicion, prise à un niveau élevé, en tout cas supérieur à celui des actes à considérer, a pris parti sur les valeurs socio-économiques ou éthico-politiques impliquées dans le groupe des décisions subordonnées à prendre, a fixé les termes de l'échange entre ces valeurs ou, plus généralement, en a modélisé la prise en charge. Dans une telle situation, les décisions subordonnées peuvent, en fait être automatisées, en partie au moins, éventuellement largement, voire complètement .

Si les décisions subordonnées ne concernent pas des personnes, l'automatisation peut, sous certaines conditions, être regardée comme légalement acceptable. Il en va autrement si ces décisions requièrent l'appréciation de comportements humains, notamment à partir de profils psychologiques ou de schémas de personnalité. Dans cette hypothèse, le décideur doit intervenir en profondeur dans le processus de la décision. L'aide de l'ordinateur n'est certes pas interdite. Elle peut concerner des données objectives. Elle peut même offrir des apports relatifs à l'appréciation des comportements. Mais le décideur est tenu de procéder lui-même à cette appréciation. S'il s'agit d'une décision en matière pénale (exception faite des contraventions objectivement définies) l'automatisation, même partielle, peut être interdite. Tel est le cas en France (art. 2, al. 1, de la loi informatique et libertés sus- rappelée). Il semble d'ailleurs qu'une telle interdiction s'impose, même sans disposition explicite, et qu'il n'y ait pas eu de velléités d'application de l'informatique en matière de sentences relatives à des crimes ou à des délits majeurs. On peut affirmer, qu'il va de soi que l'appréciation d'un comportement humain ne relève pas, pour l'essentiel, d'une démarche logico-déductive.

Il convient de préciser, enfin, que les restrictions qui ont été exprimées au sujet de l'automatisation des décisions n'impliquent aucune réserve ni critique quant à l'élaboration et à l'utilisation de modèles cybernétiques et systémiques, dans les sciences humaines, fondamentales et appliquées, notamment en droit, pourvu que l'on demeure en deçà des limites requises. Bien au contraire, tout ce qui peut contribuer à accroître la rationalité et la cohérence du droit, ainsi que l'efficacité des activités juridiques doit être accueilli et encouragé.

Il s'agit seulement, en ces domaines qui concernent l'homme et la société dans leurs aspects les plus profonds et les plus sensibles, de reconnaître les frontières de la science, comme celles de la capacité des machines, fussent-elles ingénieusement programmées, aux fins de faire ainsi un bon usage de notre savoir et de notre savoir-faire, notamment en ce qui concerne les nouvelles technologies de l'information.