Strengh and fragility...
Picture by Aniko.
.
.***.
Thursday, 19 February 2009
Thursday, 12 February 2009
Ghost in a shell
.
There was an interesting discussion and I wrote it down.
There was a film presentation with discussion at rue d'Ulm, organized by Cognivence on the 11th of february. Ghost in a shell, by Mamoru Oshii, followed by a discussion with Kevin O'Regan and Benoît Girard.
I am realizing cognitive sciences are really sexy, and getting sexier with time !
I was expecting the film about the philosopher Daniel Dennett, with his white beard... :-) so quite surprised to see philosophico-artistic manga.
Ok, no, on the poster the protagonist cyborg has too many ropes, cables and tubes hanging to be sexy... But in the film she is not wearing them, although she is quite often nude.
It was about the questions of human / non-human, can cyborgs have a "ghost" (kind of equivalent of soul of spirit). Nice images and music, but I was wondering what kind of discussion would come out of that.
Then came Kevin. And as the discussion started on general "Can machines be conscious", he showered the assembly with what I understood to be ideas from his new book. (But I didn't find references to the book.) Here are some ideas, and the notes in french hidden below.
***
Can machines be conscious?
Well, we cannot say if something is conscious or not. Or has free will or not. But if the thing thinks that he has free will and consciousness, if he says "I", that's quite a good argument for it.
Anyway, why are we so passionate about believing that we have a "self"? Free will ? And the machines don't?
Actually to believe that one has a self and free will is very useful for communication and for living in a society.
The "me" is a social illusion.
***
About free will, I remembered the chocolate cookie experiment, that actually I first heard from a jazz pianist. Here it goes:
You are hungry, and you have a french chocolate cookie in from of you on the table.
Le petit pain au chocolat
You move your hand to grab it. And you think that you want to grab it and to eat it. If you were asked what you are doing, you would say that first, you decided that you wanted to grab it and eat it, and then you moved you hand. Of course you think that you have free will and you decide what you want.
But actually, this is not what is happening. Your hand moves first, and it is already halfway when you actually realize that you want to grab the cookie...
That is quite a thing when you realize it. It is really quick. But the consciousness comes after. If you observe yourself, you can notice it. You can catch your hand moving by itself.
I asked the reference book: Daniel Wegner: The Illusion of Conscious Will
***
And Kevin went on:
Self is a social illusion. Like money.
Of money, you can say that:
- it is real. We are using it !
- it is a social illusion. If tomorrow, we all come to agree that it is an illusion, then it collapses. Because actually it is only paper.
The self is just like money.
Well, not exactly, of course. A big difference is that it is auto-referent. (What did Kevin exactly mean by that? I didn't get this one.)
But it is quite like money. If the self did not exist, the society would collapse.
There are ways to get out of it. Different cultures create different ways to escape temporarily from the self.
In hypnosis, the self disappears.
A friend of Kevin went to a ball in Oxford. Hypnosis is quite trendy, so they announced that there would be a Hypnosis Expert on that ball. Kevin's naughty friend wanted to see how it works, and he presented himself as the Hypnosis Expert to a young person. Then he did one move, and the young person fainted immediately.
Actually it is very easy to hypnotize anybody, and to get hypnotized. All books on hypnosis talk about that. It can be enough to read a text to a patient, you can even be hypnotized by reading the text to yourself.
Hypnosis is a social phenomena. One just lets one's self be grabbed by somebody else.
It is clearly a social phenomena because it is easy to hypnotize nearly anybody, but only people from cultures where the concept of hypnosis is known. If the concept is unknown, then it does not work. But societies can have many other ways out from the self. Usually every society produces bizarre states where one can get rid of the self for a while.
***
Next life I will study trance in Bali from this point of view...
***
If you click on the stars below, you can find my notes in french, half is what I translated.
***
On a parlé de robotique. Comment faire un robot qui puisse aider un vieille dame à se lever... Ça fait un peu hypocrite, maintenant qu'il y a la vidéo du robot-tank qui circule, on pourra peut-être bientôt faire une petite machine qui tue les gens tout seul, sans aucune intervention humaine. Mais on fait ce qu'on peut. Si c'est un phénomène émergeant, qu'on construise des machines pour tuer des gens, ça implique qu'aucune des particules (chercheurs) n'est responsable du résultat, j'imagine... (?)
Quand est-ce qu'on peut dire que quelque chose est conscient ? On ne peut pas vraiment. Beaucoup de débats. Mais si la chose prétend avoir le libre arbitre, s'il pense qu'il est conscient, s'il dit "je", alors ça paraît être ça.
Le "moi" est une illusion sociale.
Pourquoi est-ce qu'on s'acharne à penser qu'on a un "soi"? Et un libre arbitre?
En fait, penser le libre arbitre est très utile pour bien communiquer et vivre en société.
Je me suis souvenue de la question de la main tendue vers le pain au chocolat. Si j'ai faim, ma main se sera tendue et aura peut-être même saisi le pain au chocolat avant que je me dise consciemment: "Je veux le pain au chocolat." Ca, c'est la verbalisation à postériori.
Daniel Wegner: The Illusion of Conscious Will
L'autre chercheur invité a parlé de son expérience de l'aikido. Le maître a pu le renverser par terre sans même le toucher, en utilisant l'écart temporel infime entre ce qu'il voulait faire (attraper le poignet du maître) et ce qu'il était en train de faire (suivre le trajet du poignet, et, pris dans l'élan d'un constant recalcul de la trajectoire, tomber par terre.)
***
L'argent.
On peut en dire que
- c'est réel. On l'utilise.
- c'est une illusion sociale. Si demain, on décide que c'est une illusion, alors ça s'écroule. Car en fait, c'est du papier.
Le Je, c'est comme l'argent. Sauf qu'en plus c'est auto-référent. (Pas tout à fait compris.)
Si le Je n'existait pas, la société se désagrègerait.
Il y a des échappatoires. L'hypnose est un échappatoire qu'a notre culture, cela crée un moment où le Je cesse d'exister.
Un ami de Kevin a été à un bal à Oxford. On avait annoncé qu'il y aurait un hypnotiseur. L'ami s'est dit qu'il va voir si ça marche. Il s'est présenté à quelqu'un disant que c'est lui l'hypnotiseur, lui (je ne sais plus... dit quelque chose ? l'a touché ?) en tous cas en une seconde, la personne est tombée évanouie.
C'est très facile d'hypnotiser. De se faire hypnotiser. Les livres sur l'hypnose l'écrivent. Il peut suffire de lire le texte à dire au patient, et on s'ets hypnotisé soi-même.
L'hypnose est un phénomène social. On se dit qu'on a le droit de laisser notre Je être accaparé par quelqu'un d'autre.
C'est clair que c'est un phénomène social. Il est très facile d'hypnotiser, mais seulement dans les sociétés où l'on connaît le concept d'hypnose. Si le concept n'est pas connu, alors ça ne marche pas. Mais dans les sociétés humaines, il y a généralement des phénomènes bizarres pour se désaccaparer de son Je.
Il faut une société pour avoir un Je.
Pour la conscience, si on dit que c'est quelque chose qui regarde quelque chose d'autre faire quelque chose, ça induit des boucles rétroactives qui n'en finissent pas. (Pas sûre d'avoir compris.)
Le fait de dire que c'est social
- enlève une aura de mysticisme autour de la question
- décrit bien le fonctionnement des agents que nous sommes
- est auto-référent: fait émerger des éléments
- c'est comme l'argent: ça marche parce que ça marche socialement
Le libre arbitre.
Selon les niveaux de description, ce sera libre ou pas.
- Au niveau de l'individu, on a bien l'impression qu'il a un libre arbitre
- Si des martiens arrivent et lui regardent dans le cerveau, ils vont pouvoir expliquer pourquoi il a fait telle ou telle chose: ils verront qu'il n'est pas libre.
La conscience: c'est aussi un mot que nous utilisons pour décrire notre comportement. Il sert à ça.
La "vie": cela décrit un certain type de comportement.
A une époque, on cherchait la "vis vitalis", la force vitale.
En fait, la vie est entretenue par le fonctionnement des entités qu'on appelle vivantes.
La "conscience", c'est pareil. C'est dans la constitution des agents qu'on appelle vivants. Si on cherche comment ça apparaît dans les micro-tubules ou les neurones, ça ne fait pas avancer.
Il faut changer le mode d'explication. On ne peut pas "expliquer" la vie ou la conscience.
Au Moyen Age, les gens étaient fascinés par le fait qu'on prenne une lettre, on y ajoute une lettre et encore une lettre, et ça fait un mot ! Avec du sens ! Incroyable ! Alors on s'est mis à chercher le sens dans les lettres.
Pour Kevin, c'est de la science stupide. Et il est tout aussi stupide de chercher la conscience dans les neurones. C'est une mauvaise question.
Les questions réelles, c'est par exemple : Comment fonctionne la respiration? Comment fonctionne la réplication des gènes ?
.
.***.
There was an interesting discussion and I wrote it down.
There was a film presentation with discussion at rue d'Ulm, organized by Cognivence on the 11th of february. Ghost in a shell, by Mamoru Oshii, followed by a discussion with Kevin O'Regan and Benoît Girard.
I am realizing cognitive sciences are really sexy, and getting sexier with time !
I was expecting the film about the philosopher Daniel Dennett, with his white beard... :-) so quite surprised to see philosophico-artistic manga.
Ok, no, on the poster the protagonist cyborg has too many ropes, cables and tubes hanging to be sexy... But in the film she is not wearing them, although she is quite often nude.
It was about the questions of human / non-human, can cyborgs have a "ghost" (kind of equivalent of soul of spirit). Nice images and music, but I was wondering what kind of discussion would come out of that.
Then came Kevin. And as the discussion started on general "Can machines be conscious", he showered the assembly with what I understood to be ideas from his new book. (But I didn't find references to the book.) Here are some ideas, and the notes in french hidden below.
***
Can machines be conscious?
Well, we cannot say if something is conscious or not. Or has free will or not. But if the thing thinks that he has free will and consciousness, if he says "I", that's quite a good argument for it.
Anyway, why are we so passionate about believing that we have a "self"? Free will ? And the machines don't?
Actually to believe that one has a self and free will is very useful for communication and for living in a society.
The "me" is a social illusion.
***
About free will, I remembered the chocolate cookie experiment, that actually I first heard from a jazz pianist. Here it goes:
You are hungry, and you have a french chocolate cookie in from of you on the table.
Le petit pain au chocolat
You move your hand to grab it. And you think that you want to grab it and to eat it. If you were asked what you are doing, you would say that first, you decided that you wanted to grab it and eat it, and then you moved you hand. Of course you think that you have free will and you decide what you want.
But actually, this is not what is happening. Your hand moves first, and it is already halfway when you actually realize that you want to grab the cookie...
That is quite a thing when you realize it. It is really quick. But the consciousness comes after. If you observe yourself, you can notice it. You can catch your hand moving by itself.
I asked the reference book: Daniel Wegner: The Illusion of Conscious Will
***
And Kevin went on:
Self is a social illusion. Like money.
Of money, you can say that:
- it is real. We are using it !
- it is a social illusion. If tomorrow, we all come to agree that it is an illusion, then it collapses. Because actually it is only paper.
The self is just like money.
Well, not exactly, of course. A big difference is that it is auto-referent. (What did Kevin exactly mean by that? I didn't get this one.)
But it is quite like money. If the self did not exist, the society would collapse.
There are ways to get out of it. Different cultures create different ways to escape temporarily from the self.
In hypnosis, the self disappears.
A friend of Kevin went to a ball in Oxford. Hypnosis is quite trendy, so they announced that there would be a Hypnosis Expert on that ball. Kevin's naughty friend wanted to see how it works, and he presented himself as the Hypnosis Expert to a young person. Then he did one move, and the young person fainted immediately.
Actually it is very easy to hypnotize anybody, and to get hypnotized. All books on hypnosis talk about that. It can be enough to read a text to a patient, you can even be hypnotized by reading the text to yourself.
Hypnosis is a social phenomena. One just lets one's self be grabbed by somebody else.
It is clearly a social phenomena because it is easy to hypnotize nearly anybody, but only people from cultures where the concept of hypnosis is known. If the concept is unknown, then it does not work. But societies can have many other ways out from the self. Usually every society produces bizarre states where one can get rid of the self for a while.
***
Next life I will study trance in Bali from this point of view...
***
If you click on the stars below, you can find my notes in french, half is what I translated.
***
On a parlé de robotique. Comment faire un robot qui puisse aider un vieille dame à se lever... Ça fait un peu hypocrite, maintenant qu'il y a la vidéo du robot-tank qui circule, on pourra peut-être bientôt faire une petite machine qui tue les gens tout seul, sans aucune intervention humaine. Mais on fait ce qu'on peut. Si c'est un phénomène émergeant, qu'on construise des machines pour tuer des gens, ça implique qu'aucune des particules (chercheurs) n'est responsable du résultat, j'imagine... (?)
Quand est-ce qu'on peut dire que quelque chose est conscient ? On ne peut pas vraiment. Beaucoup de débats. Mais si la chose prétend avoir le libre arbitre, s'il pense qu'il est conscient, s'il dit "je", alors ça paraît être ça.
Le "moi" est une illusion sociale.
Pourquoi est-ce qu'on s'acharne à penser qu'on a un "soi"? Et un libre arbitre?
En fait, penser le libre arbitre est très utile pour bien communiquer et vivre en société.
Je me suis souvenue de la question de la main tendue vers le pain au chocolat. Si j'ai faim, ma main se sera tendue et aura peut-être même saisi le pain au chocolat avant que je me dise consciemment: "Je veux le pain au chocolat." Ca, c'est la verbalisation à postériori.
Daniel Wegner: The Illusion of Conscious Will
L'autre chercheur invité a parlé de son expérience de l'aikido. Le maître a pu le renverser par terre sans même le toucher, en utilisant l'écart temporel infime entre ce qu'il voulait faire (attraper le poignet du maître) et ce qu'il était en train de faire (suivre le trajet du poignet, et, pris dans l'élan d'un constant recalcul de la trajectoire, tomber par terre.)
***
L'argent.
On peut en dire que
- c'est réel. On l'utilise.
- c'est une illusion sociale. Si demain, on décide que c'est une illusion, alors ça s'écroule. Car en fait, c'est du papier.
Le Je, c'est comme l'argent. Sauf qu'en plus c'est auto-référent. (Pas tout à fait compris.)
Si le Je n'existait pas, la société se désagrègerait.
Il y a des échappatoires. L'hypnose est un échappatoire qu'a notre culture, cela crée un moment où le Je cesse d'exister.
Un ami de Kevin a été à un bal à Oxford. On avait annoncé qu'il y aurait un hypnotiseur. L'ami s'est dit qu'il va voir si ça marche. Il s'est présenté à quelqu'un disant que c'est lui l'hypnotiseur, lui (je ne sais plus... dit quelque chose ? l'a touché ?) en tous cas en une seconde, la personne est tombée évanouie.
C'est très facile d'hypnotiser. De se faire hypnotiser. Les livres sur l'hypnose l'écrivent. Il peut suffire de lire le texte à dire au patient, et on s'ets hypnotisé soi-même.
L'hypnose est un phénomène social. On se dit qu'on a le droit de laisser notre Je être accaparé par quelqu'un d'autre.
C'est clair que c'est un phénomène social. Il est très facile d'hypnotiser, mais seulement dans les sociétés où l'on connaît le concept d'hypnose. Si le concept n'est pas connu, alors ça ne marche pas. Mais dans les sociétés humaines, il y a généralement des phénomènes bizarres pour se désaccaparer de son Je.
Il faut une société pour avoir un Je.
Pour la conscience, si on dit que c'est quelque chose qui regarde quelque chose d'autre faire quelque chose, ça induit des boucles rétroactives qui n'en finissent pas. (Pas sûre d'avoir compris.)
Le fait de dire que c'est social
- enlève une aura de mysticisme autour de la question
- décrit bien le fonctionnement des agents que nous sommes
- est auto-référent: fait émerger des éléments
- c'est comme l'argent: ça marche parce que ça marche socialement
Le libre arbitre.
Selon les niveaux de description, ce sera libre ou pas.
- Au niveau de l'individu, on a bien l'impression qu'il a un libre arbitre
- Si des martiens arrivent et lui regardent dans le cerveau, ils vont pouvoir expliquer pourquoi il a fait telle ou telle chose: ils verront qu'il n'est pas libre.
La conscience: c'est aussi un mot que nous utilisons pour décrire notre comportement. Il sert à ça.
La "vie": cela décrit un certain type de comportement.
A une époque, on cherchait la "vis vitalis", la force vitale.
En fait, la vie est entretenue par le fonctionnement des entités qu'on appelle vivantes.
La "conscience", c'est pareil. C'est dans la constitution des agents qu'on appelle vivants. Si on cherche comment ça apparaît dans les micro-tubules ou les neurones, ça ne fait pas avancer.
Il faut changer le mode d'explication. On ne peut pas "expliquer" la vie ou la conscience.
Au Moyen Age, les gens étaient fascinés par le fait qu'on prenne une lettre, on y ajoute une lettre et encore une lettre, et ça fait un mot ! Avec du sens ! Incroyable ! Alors on s'est mis à chercher le sens dans les lettres.
Pour Kevin, c'est de la science stupide. Et il est tout aussi stupide de chercher la conscience dans les neurones. C'est une mauvaise question.
Les questions réelles, c'est par exemple : Comment fonctionne la respiration? Comment fonctionne la réplication des gènes ?
.
.***.
Sexy !
.
I just remembered the first presentation day at the Cogmaster. (Master of Cognitive Sciences) Lorenzi was talking about the "sexy" subjects in research on auditory perception. At first it was funny to hear this word used in such a context, by such a serious-looking researcher... :-) The presentation was indeed fascinating.
As now everything has to be sexy, my blog should definitely be sexy! :-)
Madonna and Jesus Luz for W Magazine, photo by Steve Klein
.
.***.
I just remembered the first presentation day at the Cogmaster. (Master of Cognitive Sciences) Lorenzi was talking about the "sexy" subjects in research on auditory perception. At first it was funny to hear this word used in such a context, by such a serious-looking researcher... :-) The presentation was indeed fascinating.
As now everything has to be sexy, my blog should definitely be sexy! :-)
Madonna and Jesus Luz for W Magazine, photo by Steve Klein
.
.***.
Subscribe to:
Posts (Atom)