Községünk megközelíthető Mátészalka felől 491-esen Fehérgyarmatig haladva, onnan délkeleti irányban Jánkmajtisig, majd tovább délre és már meg is érkeztek.

Már az újkőkorban lakott volt, amit bizonyítanak az 1937-ben, a Szamos jobb partján, a mai kompátkelőnél előkerült leletek, amik ma a Nemzeti Múzeumban láthatók. A falut a XII. század végi források említették először. Nevének Szamos előtagja a folyóra utal, a Sályi annyit tesz, mint “Saul birtokában lévő”; a cégényi monostor 1181. évi határjárási oklevelében Saul, 1477-ben Saly alakban írták.

A cégényi monostor birtokainak határjárásakor tűnik fel először, 1277-ben, majd 1325-ben említik mint a Kaplony nemzetségbeli Dénes, illetve a Káta nemzetség-beli János birtokát.
1350-ben a Csaholyi család őse, Ábrahám fia Péter tulajdonába kerül. 1477-ben „Saly” néven említik. A falu a reformáció idején református lesz.
1547-ben a régi birtokos, a Csaholyi család fiúága kihalásával leányágon a Melith családé lett. A XVIII. század-ban itt sok család birtokos, főként a Domahidy és a Sulyok család.

A Szamos régebben teljesen körülfolyta a községet, és többször elöntötte, az 1887-es árvízkor a falu csaknem elpusztult. Ezen a helyzeten segített 1903-ban a sályi-rápolti átmetszés, majd véglegesen a Szamos 1932. évi szabályozása.