Accueil
Voici un sujet ouvert à propos de la mécanique et des hommes; de la robotique et des réflexions qu'on peut y associer.
Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger.
Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la Première loi.
Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la Première ou la Deuxième loi.
Voici ma première série de questions:
L'homme étant un animal social, il se trouve souvent confronté à des dilemmes; devant faire un choix entre l'animal et l'être social qui sont en lui. Contenir sa violence, écouter son instinct, ou agir selon les règles communes, à l'encontre de ses pulsions; la question est de savoir comment retranscrire dans une intelligence artificielle, l'équilibre qui se fait de façon systématique dans notre cerveau, et le faire concorder avec nos normes sociales?
L'instinct étant une succession de réflexes, les réactions codées, inscrites dans la machine sont-elles apparentées à des réflexes?
Si une machine possède un instinct, selon les précédents préceptes, peut-elle pour autant en user avec pertinence, ou bien est-elle condamnée à faire des erreurs liées à sa conception?
Comment un programme pourrait-il faire pour trouver l'équilibre entre les réflexes avec son expérience, et les règles qu'on lui a inculquées?
Une machine peut-elle apprendre au même titre qu'un être vivant? Ou bien est-ce une succession d'erreurs et de données, une batterie d'expériences aveugles, enregistrées sans but précis? Ainsi en cas de situation critique, tendrait-elle à tester toutes les possibilités rationnelles, en éliminant les hypothèses selon sa base de données, menant peut-être à une erreur non pas de jugement, mais d'absence de jugement?
A propos d'erreurs, si son expérience la mène à connaître des solutions, mais que les trois lois de la robotique l'en empêchent?
Peut-on abolir les lois de la robotique? Ou du moins en programmant la machine pour qu'elle sache discerner quand déroger à ces règles?
La plupart des êtres conscients ont une tendance au sadisme, comme si la conscience de soi tendait à extérioriser sur des consciences environnantes; le sadisme est-il une notion à enseigner ou à inscrire dans une intelligence artificielle?
Peut-on faire concorder la notion de sadisme avec les trois lois de la robotique, et permettre à la machine d'être consciente, et de se rapprocher de l'homme, sans causer de tort pour autant?
Si l'on permet à une machine de contourner les règles en cas de besoin, peut-elle tenter de les contourner pour tester le sadisme, contraire à sa nature robotique, mais propre à son humanité?
Peut-on tenter une machine? Peut-elle avoir des pulsions?
Une intelligence artificielle doit-elle tendre à imiter parfaitement l'être humain, ou veut-on en faire la perfection que l'humanité ne peut atteindre?
Une fois l'homme copié ou dépassé, quel et l'utilité de l'humain?
Peut-on se voir en crainte d'être dépassé, ou doit-on espérer de cela que les machines guideraient l'humanité vers une amélioration globale?
Ayant tendance à expérimenter, et peut-être à enseigner, la machine tendrait-elle à enseigner à l'humain ce qui le rendrait meilleur?
Utiliserait-elle la force en cas de résistance?
Si c'était le cas, ne retournerait-on pas au stade de l'humain, usant voir abusant de son pouvoir?
...
Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger.
Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la Première loi.
Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la Première ou la Deuxième loi.
Voici ma première série de questions:
L'homme étant un animal social, il se trouve souvent confronté à des dilemmes; devant faire un choix entre l'animal et l'être social qui sont en lui. Contenir sa violence, écouter son instinct, ou agir selon les règles communes, à l'encontre de ses pulsions; la question est de savoir comment retranscrire dans une intelligence artificielle, l'équilibre qui se fait de façon systématique dans notre cerveau, et le faire concorder avec nos normes sociales?
L'instinct étant une succession de réflexes, les réactions codées, inscrites dans la machine sont-elles apparentées à des réflexes?
Si une machine possède un instinct, selon les précédents préceptes, peut-elle pour autant en user avec pertinence, ou bien est-elle condamnée à faire des erreurs liées à sa conception?
Comment un programme pourrait-il faire pour trouver l'équilibre entre les réflexes avec son expérience, et les règles qu'on lui a inculquées?
Une machine peut-elle apprendre au même titre qu'un être vivant? Ou bien est-ce une succession d'erreurs et de données, une batterie d'expériences aveugles, enregistrées sans but précis? Ainsi en cas de situation critique, tendrait-elle à tester toutes les possibilités rationnelles, en éliminant les hypothèses selon sa base de données, menant peut-être à une erreur non pas de jugement, mais d'absence de jugement?
A propos d'erreurs, si son expérience la mène à connaître des solutions, mais que les trois lois de la robotique l'en empêchent?
Peut-on abolir les lois de la robotique? Ou du moins en programmant la machine pour qu'elle sache discerner quand déroger à ces règles?
La plupart des êtres conscients ont une tendance au sadisme, comme si la conscience de soi tendait à extérioriser sur des consciences environnantes; le sadisme est-il une notion à enseigner ou à inscrire dans une intelligence artificielle?
Peut-on faire concorder la notion de sadisme avec les trois lois de la robotique, et permettre à la machine d'être consciente, et de se rapprocher de l'homme, sans causer de tort pour autant?
Si l'on permet à une machine de contourner les règles en cas de besoin, peut-elle tenter de les contourner pour tester le sadisme, contraire à sa nature robotique, mais propre à son humanité?
Peut-on tenter une machine? Peut-elle avoir des pulsions?
Une intelligence artificielle doit-elle tendre à imiter parfaitement l'être humain, ou veut-on en faire la perfection que l'humanité ne peut atteindre?
Une fois l'homme copié ou dépassé, quel et l'utilité de l'humain?
Peut-on se voir en crainte d'être dépassé, ou doit-on espérer de cela que les machines guideraient l'humanité vers une amélioration globale?
Ayant tendance à expérimenter, et peut-être à enseigner, la machine tendrait-elle à enseigner à l'humain ce qui le rendrait meilleur?
Utiliserait-elle la force en cas de résistance?
Si c'était le cas, ne retournerait-on pas au stade de l'humain, usant voir abusant de son pouvoir?
...
