The instantaneous state of a neural network consists of both the degree of excitation of each neuron and the positions of impulses in communication lines between the neurons. In neurophysiological experiments, the neuronal firing moments are registered, but not the state of communication lines. However, future spiking moments depend substantially on the past positions of impulses in the lines. This suggests that the sequence of intervals between firing moments (interspike intervals, ISI) in the network can be non-Markovian. In this paper, we address this question for a simplest possible neural "network", namely, a single neuron with delayed feedback. The neuron receives excitatory input both from the input Poisson process and from its own output through the feedback line. We obtain exact expressions for the conditional probability density P (tn+1 | tn,. .. , t1, t0)dtn+1 and prove that P (tn+1 | tn,. .. , t1, t0) does not reduce to P (tn+1 | tn,. .. , t1) for any n ≥ 0. This means that the output ISI stream cannot be represented as a Markov chain of any finite order. Стан нейронної мережi складається як з величини збудження в кожному з нейронiв, так i зi значень положення iмпульсiв у лiнiях зв'язку. В нейрофiзiологiчних експериментах реєструються моменти пострiлiв окремих нейронiв, а не стани лiнiй зв'язку. Але моменти наступних пострiлiв iстотним чином залежать вiд положення iмпульсiв у лiнiях зв'язку в попереднi моменти. Це наводить на думку, що послiдовнiсть iнтервалiв мiж послiдовними пострiлами окремого нейрона в мережi (мiжспайковi iнтервали, МСI) може складати немарковський точковий стохастичний процес. У цiй роботi дослiджується така можливiсть для найпростiшої з можливих нейронної "мережi", а саме, поодинокого нейрона з затриманим зворотним зв'язком. Нейрон отримує в якостi стимулу збуджувальнi iмпульси вiд пуассонiвського вхiдного процесу i власнi вихiднi збуджувальнi iмпульси через лiнiю зворотного зв'язку. Одержано точнi вирази для щiльностi умовної ймовiрностi P (tn+1 | tn,. .. , t1, t0)dtn+1 i доведено, що P (tn+1 | tn,. .. , t1, t0) не зводиться до P (tn+1 | tn,. .. , t1) для будь-якого n ≥ 0. Це означає, що вихiдний потiк МСI неможливо подати як марковський ланцюг скiнченного порядку.