It works fine, of course, try:
#include <openssl/bn.h>
int main()
{
BIGNUM *b1=BN_new();
BIGNUM *b2=BN_new();
BIGNUM *b3=BN_new();
BN_set_word(b1,141);
BN_set_word(b2,8);
BN_CTX *ctx=BN_CTX_new();
BN_mod(b3,b1,b2,ctx);
BN_print_fp(stdout,b3);
BN_free(b1);
BN_free(b2);
BN_free(b3);
BN_CTX_free(ctx);
return 0;
}