송경호KYUNGHO DAVID SONG

TRANSLATION · 자동번역

앨런 튜링, 「디지털 컴퓨터는 생각할 수 있는가?」

Can Digital Computers Think? (Alan Turing)

Can Digital Computers Think? (Alan Turing) 원문 표지
원고 첫 대목 (공개 전사본에서 다시 짬)
원고 보기 (튜링 아카이브) (새 창)튜링 아카이브 소장 방송 원고(AMT/B/5)를 OCR로 읽어 다듬은 공개 전사본. OCR이 대문자 I를 l로 잘못 읽은 세 곳만 바로잡았다. 원고에 있는 튜링의 손글씨 수정이 전사본에 어떻게 반영됐는지는 확인하지 못했다.

디지털 컴퓨터는 흔히 기계 두뇌로 묘사되어 왔다. 대부분의 과학자는 이러한 묘사를 신문의 선정적 표현에 불과하다고 여기겠지만, 그렇지 않은 이들도 있다. 한 수학자는 나에게 정반대의 견해를 상당히 강하게 표명했는데, 그의 말은 '흔히들 이 기계들은 두뇌가 아니라고 하지만, 당신과 나는 그것들이 두뇌라는 것을 안다'였다. 이 강연에서 나는 가능한 여러 관점의 바탕에 있는 생각들을 설명하고자 하는데, 전적으로 공정하게 다루지는 않을 것이다. 나는 내가 직접 지지하는 견해, 즉 디지털 컴퓨터를 두뇌로 묘사하는 것이 전혀 불합리하지는 않다는 견해에 가장 많은 관심을 기울일 것이다. 이와 다른 관점은 이미 하트리(Hartree) 교수가 제시한 바 있다.

Digital computers have often been described as mechanical brains. Most scientists probably regard this description as a mere newspaper stunt, but some do not. One mathematician has expressed the opposite point of view to me rather forcefully in the words 'It is commonly said that these machines are not brains, but you and I know that they are'. In this talk I shall try to explain the ideas behind the various possible points of view, though not altogether impartially. I shall give most attention to the view which I hold myself, that it is not altogether unreasonable to describe digital computers as brains. A different point of view has already been put by Professor Hartree.

먼저 일반인의 소박한 관점을 살펴볼 수 있다. 그는 이 기계들이 해낼 수 있는 일에 관한 놀라운 이야기들을 듣는데, 그 대부분은 그 자신으로서는 도저히 해낼 수 없을 지적 위업과 관련된 것으로 보인다. 그는 그 기계가 일종의 두뇌라고 가정하는 것 외에는 이를 설명할 수 없다. 물론 들은 것을 그냥 믿지 않는 편을 택할 수도 있다.

First we may consider the naive point of view of the man in the street. He hears amazing accounts of what these machines can do: most of them apparently involve intellectual feats of which he would be quite incapable. He can only explain it by supposing that the machine is a sort of brain, though he may prefer simply to disbelieve what he has heard.

과학자 대다수는 이러한 거의 미신에 가까운 태도를 경멸한다. 그들은 이 기계들이 만들어지는 원리와 사용되는 방식에 대해 어느 정도 알고 있다. 그들의 시각은 100여 년 전 러브레이스 백작부인(Lady Lovelace)이 배비지(Babbage)의 해석 기관(Analytical Engine)에 대해 언급하면서 잘 요약한 바 있다. 하트리가 이미 인용했듯이, 그녀는 '해석 기관은 무언가를 창안하려는 어떠한 의도도 갖고 있지 않다. 그것은 우리가 수행하도록 명령하는 방법을 알고 있는 것이면 무엇이든 할 수 있다'라고 말했다. 이는 현재 디지털 컴퓨터가 실제로 사용되는 방식, 그리고 아마도 앞으로 수년간 주로 사용될 방식을 매우 잘 설명한다. 어떤 하나의 계산에 대해, 기계가 거쳐야 할 전체 절차는 수학자가 사전에 계획한다. 무슨 일이 일어날지에 대한 의심이 적을수록 수학자는 더 만족한다. 이는 군사 작전을 계획하는 것과 같다. 이러한 상황에서는 기계가 아무것도 창안하지 않는다고 말하는 것이 타당하다.

The majority of scientists are contemptuous of this almost superstitious attitude. They know something of the principles on which the machines are constructed and of the way in which they are used. Their outlook was well summed up by Lady Lovelace over a hundred years ago, speaking of Babbage's Analytical Engine. She said, as Hartree has already quoted, 'The Analytical Engine has no pretensions whatever to originate anything. It can do whatever we know how to order it to perform.' This very well describes the way in which digital computers are actually used at the present time, and in which they will probably mainly be used for many years to come. For any one calculation the whole procedure that the machine is to go through is planned out in advance by a mathematician. The less doubt there is about what is going to happen the better the mathematician is pleased. It is like planning a military operation. Under these circumstances it is fair to say that the machine doesn't originate anything.

그러나 세 번째 관점이 있으며, 나는 이 관점을 지지한다. 나는 러브레이스 백작부인의 격언에 그 범위 내에서는 동의하지만, 그 타당성은 디지털 컴퓨터가 어떻게 사용될 수 있는가가 아니라 어떻게 사용되고 있는가를 고려하는 데 달려 있다고 본다. 사실 나는 디지털 컴퓨터가 두뇌라고 묘사하는 것이 적절할 만한 방식으로 사용될 수 있다고 믿는다. 또한 나는 '만약 어떤 기계든 두뇌로 묘사하는 것이 적절하다면, 어떤 디지털 컴퓨터든 그렇게 묘사할 수 있다'라고 말하고자 한다.

There is however a third point of view, which I hold myself. I agree with Lady Lovelace's dictum as far as it goes, but I believe that its validity depends on considering how digital computers are used rather than how they could be used. In fact I believe that they could be used in such a manner that they could appropriately be described as brains. I should also say that 'If any machine can appropriately be described as a brain, then any digital computer can be so described'.

이 마지막 진술에는 약간의 설명이 필요하다. 다소 놀랍게 보일 수 있지만, 몇 가지 단서를 달면 이는 피할 수 없는 사실로 보인다. 이는 디지털 컴퓨터의 한 특징적 속성, 즉 내가 보편성(universality)이라고 부를 속성으로부터 도출됨을 보일 수 있다. 디지털 컴퓨터는 매우 넓은 특정 부류에 속하는 어떤 기계든 대체하도록 만들 수 있다는 의미에서 보편 기계이다. 디지털 컴퓨터가 불도저나 증기 기관, 망원경을 대체하지는 않겠지만, 경쟁 관계에 있는 어떤 설계의 계산 기계든, 즉 데이터를 입력할 수 있고 나중에 결과를 출력하는 어떤 기계든 대체할 것이다. 우리의 컴퓨터가 주어진 기계를 모방하도록 하려면, 해당 기계가 주어진 상황에서 무엇을 할지, 특히 어떤 답을 출력할지를 계산하도록 컴퓨터를 프로그래밍하기만 하면 된다. 그러면 컴퓨터가 동일한 답을 출력하도록 할 수 있다.

This last statement needs some explanation. It may appear rather startling, but with some reservations it appears to be an inescapable fact. It can be shown to follow from a characteristic property of digital computers, which I will call their universality. A digital computer is a universal machine in the sense that it can be made to replace any machine of a certain very wide class. It will not replace a bulldozer or a steam-engine or a telescope, but it will replace any rival design of calculating machine, that is to say any machine into which one can feed data and which will later print out results. In order to arrange for our computer to imitate a given machine it is only necessary to programme the computer to calculate what the machine in question would do under given circumstances, and in particular what answers it would print out. The computer can then be made to print out the same answers.

이제 어떤 특정 기계를 두뇌로 묘사할 수 있다면, 우리는 디지털 컴퓨터가 그 기계를 모방하도록 프로그래밍하기만 하면 되며, 그러면 그 컴퓨터 역시 두뇌가 될 것이다. 동물, 특히 인간에게서 발견되는 실제 두뇌가 일종의 기계라는 점을 받아들인다면, 적절히 프로그래밍된 우리의 디지털 컴퓨터는 두뇌처럼 행동할 것이라는 결론이 나온다.

If now some particular machine can be described as a brain we have only to programme our digital computer to imitate it and it will also be a brain. If it is accepted that real brains, as found in animals, and in particular in men, are a sort of machine it will follow that our digital computer suitably programmed, will behave like a brain.

이 논증에는 상당히 합리적으로 이의를 제기할 수 있는 몇 가지 가정이 포함되어 있다. 모방 대상이 되는 기계는 불도저보다는 계산기에 더 가까워야 한다는 점은 이미 설명했다. 이는 단지 우리가 발이나 턱이 아니라 두뇌의 기계적 유사물을 이야기하고 있다는 사실을 반영할 뿐이다. 또한 그 기계는 원칙적으로 그 행동을 계산으로 예측할 수 있는 종류여야 했다. 우리는 그러한 계산을 어떻게 수행해야 하는지 분명히 알지 못하며, 아서 에딩턴(Sir Arthur Eddington) 경은 양자역학의 불확정성 원리 때문에 그러한 예측은 이론적으로조차 불가능하다고 주장하기까지 했다.

This argument involves several assumptions which can quite reasonably be challenged. I have already explained that the machine to be imitated must be more like a calculator than a bulldozer. This is merely a reflection of the tact that we are speaking of mechanical analogues of brains, rather than of feet or jaws. It was also necessary that this machine should be of the sort whose behaviour is in principle predictable by calculation. We certainly do not know how any such calculation should be done, and it was even argued by Sir Arthur Eddington that on account of the Indeterminacy Principle in Quantum Mechanics no such prediction is even theoretically possible.

또 다른 가정은 사용되는 컴퓨터의 저장 용량이 모방 대상 기계의 행동 예측을 수행하기에 충분해야 한다는 것이었다. 컴퓨터는 또한 충분한 속도를 갖추어야 한다. 현재의 컴퓨터는 속도는 충분할지 모르지만 필요한 저장 용량은 아마 갖추지 못했을 것이다. 이는 사실상 인간의 두뇌처럼 복잡한 것을 모방하고자 한다면 현재 이용 가능한 어떤 컴퓨터보다도 훨씬 더 큰 기계가 필요하다는 것을 의미한다. 아마 적어도 맨체스터 컴퓨터(Manchester Computer)의 100배 규모의 무언가가 필요할 것이다. 물론 그 대신 정보 저장 기술이 충분히 발전한다면 같은 크기이거나 더 작은 기계로도 가능할 것이다.

Another assumption was that the storage capacity of the computer used should be sufficient to carry out the prediction of the behaviour of the machine to be imitated. It should also have sufficient speed. Our present computers probably have not got the necessary storage capacity, though they may well have the speed. This means in effect that it we wish to imitate anything so complicated as the human brain we need a very much larger machine than any of the computers at present available. We probably need something at least a hundred times as large as the Manchester Computer. Alternatively of course a machine of equal size or smaller would do if sufficient progress were made in the technique of storing information.

사용되는 컴퓨터의 복잡성을 높일 필요는 전혀 없다는 점에 주목해야 한다. 훨씬 더 복잡한 기계나 두뇌를 모방하려 한다면 점점 더 큰 컴퓨터를 사용해야 한다. 점점 더 복잡한 컴퓨터를 사용할 필요는 없다. 이는 역설적으로 보일 수 있지만, 그 설명은 어렵지 않다. 컴퓨터로 기계를 모방하려면 컴퓨터를 만들어야 할 뿐 아니라 그것을 적절히 프로그래밍해야 한다. 모방할 기계가 복잡할수록 프로그램도 복잡해야 한다. 비유를 들면 이 점이 더 분명해질 것이다. 두 사람이 모두 자서전을 쓰고 싶어 하는데, 한 사람은 파란만장한 삶을 살았고 다른 사람에게는 별다른 일이 일어나지 않았다고 가정해 보자. 더 파란만장한 삶을 산 사람은 다른 사람보다 두 가지 어려움을 더 심각하게 겪을 것이다. 그는 종이에 더 많은 비용을 들여야 할 것이고, 무엇을 쓸지 생각하는 데 더 많은 수고를 들여야 할 것이다. 종이 공급은, 예컨대 그가 무인도에 있지 않은 한 심각한 어려움이 되지는 않을 것이며, 어떤 경우든 기술적 또는 재정적 문제에 불과할 것이다. 다른 어려움은 더 근본적인 것이며, 그가 자신의 삶이 아니라 자신이 전혀 알지 못하는 것, 이를테면 화성의 가정생활에 관한 저작을 쓰는 경우라면 훨씬 더 심각해질 것이다. 컴퓨터가 두뇌처럼 행동하도록 프로그래밍하는 우리의 문제는 무인도에서 이 논저를 쓰려고 하는 것과 비슷하다. 우리는 필요한 저장 용량을 확보할 수 없다. 다시 말해 논저를 쓸 충분한 종이를 구할 수 없으며, 어떤 경우든 종이가 있다 해도 무엇을 써야 할지 알지 못한다. 이는 딱한 상황이지만, 비유를 이어 가자면, 글 쓰는 법을 알고 대부분의 지식이 책에 담길 수 있다는 사실을 이해하고 있다는 것만으로도 의미가 있다.

It should be noticed that there is no need for there to be any increase in the complexity of the computers used. If we try to imitate even more complicated machines or brains we must use larger and larger computers to do it. We do not need to use successively more complicated ones. This may appear paradoxical, but the explanation is not difficult. The limitation of a machine by a computer requires not only that we should have made the computer, but that we should have programmed it appropriately. The more complicated the machine to be imitated the more complicated must the programme be. This may perhaps be made clearer by an analogy. Suppose two men both wanted to write their autobiographies, and that one had had an eventful life, but very little had happened to the other. There would be two difficulties troubling the man with the more eventful life more seriously than the other. He would have to spend more on paper and be would have to take more trouble over thinking what to say. The supply of paper would not be likely to be a serious difficulty, unless for instance he were on a desert island, and in any case it could only be a technical or a financial problem. The other difficulty would be more fundamental and would become more serious still if he were not writing his life but a work on something he knew nothing about, let us say about family life on Mars. Our problem of programming a computer to behave like a brain is something like trying to write this treatise on a desert island. We cannot get the storage capacity we need in other words we cannot get enough paper to write the treatise on, and in any case we don't know what we would write down if we had it. This is a poor state of affairs, but, to continue the analogy, it is something to know how to write, and to appreciate the fact that most knowledge can be embodied in books.

이러한 점에 비추어 볼 때, 디지털 컴퓨터를 '기계 두뇌' 또는 '전자 두뇌'라고 부르는 것을 비판할 수 있는 가장 현명한 근거는 다음과 같은 것으로 보인다. 즉, 컴퓨터가 두뇌처럼 행동하도록 프로그래밍될 수는 있겠지만, 그것을 어떻게 해야 하는지 현재로서는 우리가 알지 못한다는 점이다. 나는 이러한 견해에 전적으로 동의한다. 이 견해는 우리가 결국 그러한 프로그램을 찾아내는 데 성공할지 여부에 관한 질문을 열어 둔다. 나 개인적으로는 그러한 프로그램이 발견될 것이라고 믿는 편이다. 예컨대 금세기 말에는, 질문에 대한 답을 사람이 하는지 기계가 하는지 추측하기가 극도로 어려운 방식으로 질문에 답하도록 기계를 프로그래밍하는 것이 가능해질 것이라고 생각한다. 내가 상상하는 것은 구술시험과 비슷한 것이다. 다만 인간의 목소리를 얼마나 충실하게 모방할 수 있는가와 같은 무관한 문제를 고려할 필요가 없도록, 질문과 답은 모두 타자로 작성된다. 이는 내 의견일 뿐이며, 다른 의견이 들어설 여지는 충분하다.

In view of this it seems that the wisest ground on which to criticise the description of digital computers as 'mechanical brains' or 'electronic brains' is that, although they might be programmed to behave like brains, we do not at present know how this should be done. With this outlook I am in full agreement. It leaves open the question as to whether we will or will not eventually succeed in finding such a programme. I, personally, am inclined to believe that such a programme will be found. I think it is probable for instance that at the end of the century it will be possible to programme a machine to answer questions in such a way that it will be extremely difficult to guess whether the answers are being given by a man or by the machine. I am imagining something like a viva-voce examination, but with the questions and answers all typewritten in order that we need not consider such irrelevant matters as the faithfulness with which the human voice can be imitated. This only represents my opinion; there is plenty of room for others.

아직 몇 가지 어려움이 남아 있다. 두뇌처럼 행동한다는 것은 자유의지를 수반하는 것으로 보이지만, 디지털 컴퓨터의 행동은 일단 프로그래밍되고 나면 완전히 결정되어 있다. 이 두 사실은 어떻게든 조화되어야 하지만, 그렇게 하려면 '자유의지와 결정론'이라는 오래된 논쟁에 휘말리게 되는 것으로 보인다. 빠져나갈 길은 두 가지이다. 우리 모두가 가진 자유의지의 느낌은 환상일 수도 있다. 또는 우리가 실제로 자유의지를 가지고 있지만, 우리의 행동으로부터는 그러하다는 것을 알아낼 방법이 없는 것일 수도 있다. 후자의 경우, 기계가 아무리 인간의 행동을 잘 모방하더라도 그것은 한낱 가짜로 간주되어야 한다. 이 두 대안 중 어느 쪽이 옳은지를 우리가 어떻게 판정할 수 있을지 나는 모른다. 그러나 어느 쪽이 옳든, 두뇌를 모방하려는 기계는 마치 자유의지를 가진 것처럼 행동하는 것으로 보여야 한다는 점은 확실하며, 이를 어떻게 달성할 것인지 묻는 것은 당연하다. 한 가지 가능성은 기계의 행동이 룰렛 휠이나 라듐 공급원 같은 것에 의존하도록 만드는 것이다. 이것들의 행동은 어쩌면 예측 가능할지도 모르지만, 설령 그렇더라도 우리는 그 예측을 어떻게 해야 하는지 알지 못한다.

There are still some difficulties. To behave like a brain seems to involve free will, but the behaviour of a digital computer, when it has been programmed is completely determined. These two facts must somehow be reconciled, but to do so seems to involve us in an age-old controversy that of 'free will and determinism'. There are two ways out. It may be that the feeling of free will which we all have is an illusion. Or it may be that we really have got free will, but that there is no way of telling from out behaviour that this is so. In the latter case, however well a machine imitates a man's behaviour it is to be regarded as a mere sham. I do not know how we can ever decide between these alternatives but whichever is the correct one it is certain that a machine which is to imitate a brain must appear to behave as if it had free will, and it may well be asked how this is to be achieved. One possibility is to make its behaviour depend on something like a roulette wheel or a supply of radium. The behaviour of these may perhaps be predictable, but if so we do not know how to do the prediction.

그러나 실은 이렇게 할 필요조차 없다. 구성의 세부 사항을 모르는 사람에게는 행동이 상당히 무작위적으로 보이는 기계를 설계하는 것은 어렵지 않다. 당연하게도, 어떤 기법을 사용하든 이러한 무작위 요소를 포함한다고 해서 우리의 주된 문제가 해결되지는 않는다. 그 문제란 두뇌를 모방하도록, 혹은 덜 정확하지만 더 간단히 말해 생각하도록 기계를 어떻게 프로그래밍할 것인가 하는 것이다. 그러나 무작위 요소는 그 과정이 어떠할지에 대해 어느 정도 시사점을 준다. 우리는 컴퓨터가 무엇을 할지 항상 알 수 있으리라고 기대해서는 안 된다. 기계가 우리를 놀라게 할 때 우리는 기뻐해야 한다. 이는 학생이 명시적으로 배우지 않은 것을 해냈을 때 기뻐하는 것과 다소 비슷하다.

It is, however, not really even necessary to do this. It is not difficult to design machines whose behaviour appears quite random to anyone who does not know the details of their construction. Naturally enough the inclusion of this random element, whichever technique is used, does not solve our main problem, how to programme a machine to imitate a brain, or as we might say more briefly, if less accurately, to think. But it gives us some indication of what the process will be like. We must not always expect to know what the computer is going to do. We should be pleased when the machine surprises us, in rather the same way as one is pleased when a pupil does something which he had not been explicitly taught to do.

이제 러브레이스 백작부인의 경구를 다시 검토해 보자. '기계는 우리가 그것에 수행하도록 명령하는 방법을 아는 것이면 무엇이든 할 수 있다.' 이 구절의 나머지 부분의 취지로 보아, 기계는 우리가 수행하도록 명령하는 방법을 아는 것만 할 수 있다고 말하고 싶어진다. 그러나 나는 이것이 사실이 아니라고 생각한다. 물론 기계는 우리가 실제로 수행하도록 명령한 것만 할 수 있으며, 그 밖의 것은 기계적 고장일 것이다. 그러나 우리가 기계에 명령을 내릴 때, 우리가 무엇을 하고 있는지, 즉 이러한 명령의 결과가 어떻게 될지를 알고 있다고 가정할 필요는 없다. 씨앗을 땅에 심을 때 발아의 메커니즘을 이해할 필요가 없는 것과 마찬가지로, 이러한 명령이 어떻게 기계의 이후 행동으로 이어지는지 이해할 수 있어야 할 필요는 없다. 이해하든 이해하지 못하든 식물은 자라난다. 우리가 기계에 프로그램을 주었는데 그 결과 기계가 우리가 예상하지 못한 흥미로운 일을 한다면, 나는 기계의 행동이 프로그램에 함축되어 있었으므로 독창성은 전적으로 우리에게 있다고 주장하기보다는, 기계가 무언가를 독창적으로 만들어 냈다고 말하는 편을 택하겠다.

Let us now reconsider Lady Lovelace's dictum. 'The machine can do whatever we know how to order it to perform'. The sense of the rest of the passage is such that one is tempted to say that the machine can only do what we know how to order it to perform. But I think this would not be true. Certainly the machine can only do what we do order it to perform, anything else would be a mechanical fault. But there is no need to suppose that, when we give it its orders we know what we are doing, what the consequences of these orders are going to be. One does not need to be able to understand how these orders lead to the machine's subsequent behaviour, any more than one needs to understand the mechanism of germination when one puts a seed in the ground. The plant comes up whether one understands or not. If we give the machine a program which results in its doing something interesting which we had not anticipated I should be inclined to say that the machine had originated something, rather than to claim that its behaviour was implicit in the programme, and therefore that the originality lies entirely with us.

'기계가 생각하도록 프로그래밍하는' 이 과정을 어떻게 수행해야 하는지에 대해서는 많은 것을 말하려 하지 않겠다. 사실 우리는 이에 대해 아는 것이 거의 없으며, 지금까지 이루어진 연구도 거의 없다. 아이디어는 풍부하지만, 그중 어떤 것이 중요한지는 아직 알지 못한다. 탐정 소설에서처럼, 수사 초기에는 어떤 사소한 것이라도 수사관에게 중요할 수 있다. 문제가 해결되고 나면 배심원단에게는 핵심적인 사실만 전달하면 된다. 그러나 현재로서는 배심원단 앞에 내놓을 만한 것이 아무것도 없다. 다만 한 가지만 말하겠다. 나는 이 과정이 가르치는 과정과 밀접한 관련을 가져야 한다고 믿는다.

I will not attempt to say much about how this process of 'programming a machine to think' is to be done. The fact is that we know very little about it, and very little research has yet been done. There are plentiful ideas, but we do not yet know which of them are of importance. As in the detective stories, at the beginning of the investigation any trifle may be of importance to the investigator. When the problem has been solved, only the essential facts need to be told to the jury. But at present we have nothing worth putting before a jury. I will only say this, that I believe the process should bear a close relation to that of teaching.

나는 기계가 생각하도록 만들어질 수 있다는 이론에 대한 주요한 합리적 찬반 논거가 무엇인지 설명하려 했지만, 비합리적 논거에 대해서도 무언가 언급해야 할 것이다. 많은 사람들이 생각하는 기계라는 발상에 극도로 반대한다. 그러나 나는 그것이 내가 제시한 이유나 다른 어떤 합리적 이유 때문이 아니라, 단순히 그들이 그 발상을 좋아하지 않기 때문이라고 생각한다. 그 발상을 불쾌하게 만드는 여러 특징을 볼 수 있다. 기계가 생각할 수 있다면 우리보다 더 지적으로 생각할 수도 있을 것이고, 그렇게 되면 우리는 어떻게 되겠는가? 예컨대 결정적인 순간에 전원을 끄는 식으로 기계를 종속적인 위치에 둘 수 있다 하더라도, 우리는 하나의 종으로서 크게 굴욕감을 느낄 것이다. 우리가 돼지나 쥐에게 대체될 가능성으로부터도 비슷한 위험과 굴욕이 우리를 위협한다. 이것은 별로 논란의 여지가 없는 이론적 가능성이지만, 우리는 돼지나 쥐의 지능이 그다지 높아지지 않은 채로 너무나 오랫동안 그들과 함께 살아왔기 때문에 더 이상 이 가능성을 걱정하지 않는다. 우리는 그런 일이 일어난다 해도 앞으로 수백만 년 동안은 일어나지 않을 것이라고 느낀다. 그러나 이 새로운 위험은 훨씬 더 가까이 있다. 만약 그것이 닥친다면 거의 확실히 다음 천 년 이내일 것이다. 그것은 먼 일이지만 천문학적으로 먼 일은 아니며, 분명 우리에게 불안을 안겨 줄 수 있는 것이다.

I have tried to explain what are the main rational arguments for and against the theory that machines could be made to think, but something should also be said about the irrational arguments. Many people are extremely opposed to the idea of a machine that thinks, but I do not believe that it is for any of the reasons that I have given, or any other rational reason, but simply because they do not like the idea. One can see many features which make it unpleasant. If a machine can think, it might think more intelligently than we do, and then where should we be? Even if we could keep the machines in a subservient position, for instance by turning off the power at strategic moments, we should, as a species, feel greatly humbled. A similar danger and humiliation threatens us from the possibility that we might be superseded by the pig or the rat. This is a theoretical possibility which is hardly controversial, but we have lived with pigs and rats for so long without their intelligence much increasing, that we no longer trouble ourselves about this possibility. We feel that if it is to happen at all it will not be for several million years to come. But this new danger is much closer. If it comes at all it will almost certainly be within the next millenium. It is remote but not astronomically remote, and is certainly something which can give us anxiety.

이 주제에 관한 강연이나 글에서는, 어떤 특별히 인간적인 특성은 결코 기계가 모방할 수 없다는 진술의 형태로 약간의 위안을 제공하는 것이 관례이다. 예컨대 어떤 기계도 좋은 영어를 쓸 수 없다거나, 성적 매력에 영향을 받거나 파이프 담배를 피울 수 없다고 말할 수도 있을 것이다. 나는 그러한 위안을 제공할 수 없는데, 그러한 한계는 설정될 수 없다고 믿기 때문이다. 그러나 인간의 신체 형태처럼 가장 두드러지게 인간적이지만 지적이지는 않은 특성을 지닌 기계를 만드는 데 큰 노력이 들어가지 않기를 분명히 바라며, 또 그러지 않을 것이라고 믿는다. 내가 보기에 그러한 시도는 상당히 무익하며, 그 결과물은 인조 꽃과 비슷한 불쾌한 성질을 띨 것이다. 생각하는 기계를 만들려는 시도는 내게 다른 범주에 속하는 것으로 보인다. 사고 과정 전체는 내게 여전히 상당히 신비롭지만, 생각하는 기계를 만들려는 시도가 우리 자신이 어떻게 생각하는지를 알아내는 데 크게 도움이 될 것이라고 믿는다.

It is customary, in a talk or article on this subject, to offer a grain of comfort, in the form of a statement that some particularly human characteristic could never be imitated by a machine. It might for instance be said that no machine could write good English, or that it could not be influenced by sex appeal or smoke a pipe. I cannot offer any such comfort, for I believe that no such bounds can be set. But I certainly hope and believe that no great efforts will be put into making machines with the most distinctively human, but non-intellectual characteristics such as the shape of the human body. It appears to me to be quite futile to make such attempts and their results would have something like the unpleasant quality of artificial flowers. Attempts to produce a thinking machine seem to me to be in a different category. The whole thinking process is still rather mysterious to me, but I believe that the attempt to make a thinking machine will help us greatly in finding out how we think ourselves.