Najdawniejsze udokumentowane ślady pobytu człowieka w tym rejonie to pozostałości obozowisk ujawnione w pobliżu Kolonii Osłowo (8000-4500 p.n.e.). Równie ciekawe jest wczesnośredniowieczne całopalne cmentarzysko kurhanowe zlokalizowane przy drodze prowadzącej z Osłowa do Mielnika. W czasie badań wykopaliskowych rozpoznano tam dwa kopce. Dzięki obecności wczesnośredniowiecznych naczyń na tym terenie ustalono datowanie cmentarzyska na przełom X i XI wieku. Osłowo istniało już w 1501 r., gdyż było częścią uposażenia dziedzicznego wójtostwa w Mielniku. Stanowiło ono folwark ówczesnego pierwszego wójta Mielnika – mieszczanina Mikołaja Rychlika. Wzniesiono tu dwór wójtowski wzmiankowany w źródłach po raz pierwszy w 1513 r. Do III zaboru Osłowo wchodziło w skład starostwa mielnickiego, a do 1807 r. znajdowało się w tzw. Prusach Nowowschodnich. Po traktacie w Tylży wcielono je do imperium rosyjskiego jako część obwodu białostockiego. Jeżeli chodzi o nazwę miejscowości istnieje hipoteza, że jej mieszkańcy w przeszłości zajmowali się wyrobem osełek, czyli narzędzi ciernych służących m.in. do ostrzenia kos czy sierpów. Katolicy z Osłowa byli parafianami mielnickiego kościoła pw. Narodzenia NMP, natomiast prawosławni należeli do mielnickiej cerkwi tego samego wezwania. W okresie międzywojennym Osłowo podlegało gminie z siedzibą w Radziwiłłówce. Mieszkało tu wówczas 114 osób (90 prawosławnych, 15 katolików, 9 wyznawców judaizmu) Obecnie w Osłowie znajduje się siedziba sołectwa.
