Как зарегистрировать конструктор класса C++ в пользовательских данных Lua и использовать его по умолчанию

Вы должны проверить возврат luaL_newmetatable, чтобы зарегистрировать свои метаметоды только один раз.

Вы можете заменить luaL_setmetatable на luaL_newmetatable, чтобы ваш код был совместим с Lua 5.1, вы можете встроить метатабличную регистрацию в конструктор, и он будет работать так же (за исключением дополнительного lua_setmetatable).

Для конструктора просто зарегистрируйте функцию. Метатаблица должна управлять экземпляром, а не его созданием.

Не забудьте добавить деконструктор (__gc), чтобы освободить выделенный экземпляр класса C++.

В конце вам нужно просто зарегистрировать функцию Object, которая создает метатаблицу при первом вызове.

#define LUA_META_OBJECT "Object"

class Object {
private:
    double x;
public:
    Object(double x) : x(x){}
};

static int object_free(lua_State* L)
{
    delete *static_cast<Object**>(luaL_checkudata(L, 1, LUA_META_OBJECT));
    return 0;
}

static int object_new(lua_State* L)
{
    const lua_Number x = luaL_checknumber(L, 1);
    *static_cast<Object**>(lua_newuserdata(L, sizeof(Object*))) = new Object(x);
    if(luaL_newmetatable(L, LUA_META_OBJECT)){
        static const luaL_Reg functions[] =
        {
            {"__gc", object_free},
            {nullptr, nullptr}
        };
        luaL_setfuncs(L, functions, 0);
        lua_pushvalue(L, -1);
        lua_setfield(L, -2, "__index");
    }
    lua_setmetatable(L, -2);
    return 1;
}

...
    lua_register(L, "Object", object_new);
...

Мне очень нравится ответ Youka, но я хотел реализовать это по-другому. Большая часть кода здесь заимствована из ответа Youka.

Youka также сделал важное замечание, что вам необходимо создать метаметод __gc, чтобы у вас не было утечки памяти, когда ваши экземпляры Object выходят за пределы области видимости.

В приведенном ниже коде я сделал отдельную функцию, которая помещает метатаблицу в стек и создает ее, если она еще не существует. Сама метатаблица имеет метатаблицу с метаметодом __call, который вызывает создание объекта. Такое поведение должно позволить вам использовать o = Object(42) для создания новых объектов. Я также включил код, чтобы сохранить старую функциональность, используя o = Object.new(42). В нижней части кода метатаблица помещается один раз для первоначального создания метатаблицы.

#define LUA_META_OBJECT "Object"

class Object {
private:
    double x;
public:
    Object(double x) : x(x){}
};

// declaration so we can use this in object_new function
int push_object_metatable(lua_State* L);

static int object_free(lua_State* L)
{
    delete *static_cast<Object**>(luaL_checkudata(L, 1, LUA_META_OBJECT));
    return 0;
}

static int object_new(lua_State* L)
{
    const lua_Number x = luaL_checknumber(L, 1);
    *static_cast<Object**>(lua_newuserdata(L, sizeof(Object*))) = new Object(x);
    push_object_metatable(L);
    lua_setmetatable(L, -2);
    return 1;
}

static int call_object_new(lua_State* L)
{
    lua_remove(L, 1);
    object_new(L);
    return 1;
}

// Pushes the metatable for Object and creates if it doesnt exist yet
int push_object_metatable(lua_State* L)
{
    if(luaL_newmetatable(L, LUA_META_OBJECT)){
        static const luaL_Reg functions[] =
        {
            {"new", object_new},
            {"__gc", object_free},
            {nullptr, nullptr}
        };
        luaL_setfuncs(L, functions, 0);
        lua_pushvalue(L, -1);
        lua_setfield(L, -2, "__index");

        // Set a metatable for the metatable :D
        // This allows using Object(42) to make new objects
        lua_newtable(L);
        lua_pushcfunction(L, call_object_new);
        lua_setfield(L, -2, "__call");
        lua_setmetatable(L, -2);
    }
    return 1;
}

...
    // Register Object metatable for lua (Create and push it)
    push_object_metatable(L);
    lua_setglobal(L, LUA_META_OBJECT);
...